BÀI GIẢNG MÔN HỌCLÝ THUYẾT THÔNG TIN
NỘI DUNG MÔN HỌC
NỘI DUNG MÔN HỌC (tt)
TÀI LIỆU THAM KHẢO
HÌNH THỨC ĐÁNH GIÁ
CÁC MÔN LIÊN QUAN
Bài 1 Giới thiệu
Thông tin là gì?
Thông tin là gì? (tt)
Vai trò của thông tin
LTTT nghiên cứu những vấn đề gì?
Những ứng dụng của LT thông tin
Những ứng dụng của LT thông tin (tt)
Lịch sử hình thành
Lịch sử hình thành (tt)
Bài 2 Một số khái niệm cơ bản
Thông tin
Thông tin (tt)
Mô hình của các quá trình truyền tin
Mô hình của các quá trình truyền tin (tt)
Một số khái niệm (tt)
Một số khái niệm (tt)
Các loại hệ thống truyền tin
Các loại hệ thống truyền tin (tt)
Rời rạc hóa
Rời rạc hóa (tt)
Rời rạc hóa (tt)
Nguồn rời rạc
Bài 3 Chuẩn bị toán học
Xác suất
Xác suất (tt)
Xác suất (tt)
Xác suất (tt)
Ví dụ
Xác suất (tt)
Xác suất (tt)
Bất đẳng thức Chebyshevvà luật yếu của số lớn
Bất đẳng thức Chebyshev (tt)
Luật yếu của số lớn (tt)
Luật yếu của số lớn (tt)
Luật yếu của số lớn (tt)
Tập lồi
Hàm lồi
Định lý, bất đẳng thức Jensen
Bài 4 Lượng tin
Lượng tin
Ví dụ
Lượng tin
Lượng tin (tt)
Lượng tin (tt)
Lượng tin (tt)
Lượng tin trung bình
Ví dụ
Ví dụ
Ví dụ (tt)
Bài 5 Entropy
Entropy của một biến ngẫu nhiên rời rạc
Entropy của một biến ngẫu nhiên rời rạc (tt)
Các đặc tính của entropy
Các đặc tính của entropy (tt)
Các đặc tính của entropy (tt)
Các đặc tính của entropy (tt)
Entropy và các dãy củamột biến ngẫu nhiên
Entropy và các dãy củamột biến ngẫu nhiên (tt)
Nhận xét
Định lý
Chứng minh định lý
Chứng minh định lý
Chứng minh định lý (tt)
Bài 6 Mã hiệu
Giới thiệu
Mã hiệu và những thông số cơ bản
Mã hiệu và những thông số cơ bản (tt)
Mã hiệu và những thông số cơ bản (tt)
Mã hiệu và những thông số cơ bản (tt)
Một số phương pháp biểu diễn mã
Một số phương pháp biểu diễn mã (tt)
Một số phương pháp biểu diễn mã (tt)
Một số phương pháp biểu diễn mã (tt)
Một số phương pháp biểu diễn mã (tt)
Điều kiện phân tách mã
Điều kiện phân tách mã (tt)
Điều kiện phân tách mã (tt)
Điều kiện phân tách mã (tt)
Bảng thử mã
Bảng thử mã (tt)
Bảng thử mã (tt)
Cách xây dựng bảng thử mã
Bảng thử mã (tt)
Bảng thử mã (tt)
Bảng thử mã (tt)
Bảng thử mã (tt)
Bài tập
Bất đẳng thức Kraft
Bất đẳng thức Kraft
Bất đẳng thức Kraft (tt)
Định lý
Định lý 6.2 (tt)
Chứng minh định lý (tt)
Bài 7 Mã hóa tối ưunguồn rời rạc không nhớ
Các định lý về giới hạn trên và dưới của chiều dài trung bình
Các định lý về giới hạn trên và dưới của chiều dài trung bình (tt)
Chứng minh định lý (tt)
Hệ quả
Hệ quả (tt)
Mã hóa tối ưu
Phương pháp mã hoá Shannon
Ví dụ
Nhận xét - Bài tập
Phương pháp mã hoá Fano
Ví dụ
Chú ý
Ví dụ
Nhận xét - Bài tập
Phương pháp mã hoá tối ưu Huffman
Hai định lý của Huffman
Hai định lý của Huffman (tt)
Hai định lý của Huffman (tt)
Hai định lý của Huffman (tt)
Giải thuật mã hóa Huffman
Ví dụ
Nhận xét
Mở rộng cho cơ số m > 2
Ví dụ
Bài tập
Nhận xét
Nhận xét (tt)
Bài 8 Mã hóa nguồn phổ quát
Giới thiệu
Nguồn rời rạc không nhớ vớithống kê không biết trước
Nguồn rời rạc không nhớ vớithống kê không biết trước (tt)
Nguồn rời rạc không nhớ vớithống kê không biết trước (tt)
Nguồn rời rạc không nhớ vớithống kê không biết trước (tt)
Các vectơ tần suất và tựa-entropy
Các vectơ tần suất và tựa-entropy (tt)
Các vectơ tần suất và tựa-entropy (tt)
Các vectơ tần suất và tựa-entropy (tt)
Các vectơ tần suất và tựa-entropy (tt)
Các vectơ tần suất và tựa-entropy (tt)
Một sơ đồ mã hoá phổ quát chonguồn rời rạc không nhớ
Một sơ đồ mã hoá phổ quát chonguồn rời rạc không nhớ (tt)
Ví dụ
Ví dụ (tt)
Ví dụ (tt)
Bài 9 Kênh rời rạc không nhớLượng tin tương hỗ
Kênh rời rạc không nhớ và ma trận kênh
Nhận xét
Nhận xét (tt)
Entropy điều kiện và lượng tin tương hỗ
Ví dụ
Ví dụ (tt)
Lượng tin có điều kiện I(xk | yj)
Lượng tin có điều kiện I(xk | yj)
Lượng tin tương hỗ
Lượng tin có điều kiện trung bình
Entropy điều kiện
Chứng minh
Chứng minh (tt)
Chứng minh
Lượng tin tương hỗ trung bình
Một số loại kênh rời rạc không nhớ
Nhận xét
Kênh không mất (Lossless channel)
Kênh vô dụng (Useless channel)
Kênh vô dụng (tt)
Kênh vô dụng (tt)
Sự nhập nhằng (equivocation)và tốc độ truyền tin
Sự nhập nhằng (equivocation)và tốc độ truyền tin (tt)
Ví dụ
Nhận xét
Nhận xét (tt)
Dung lượng kênh
Kênh đối xứng
Kênh đơn định
Bài 10 Mã hóa chống nhiễu,định lý kênh
Giới thiệu bài toán chống nhiễu
Giới thiệu bài toán chống nhiễu (tt)
Giới thiệu bài toán chống nhiễu (tt)
Định lý kênh có nhiễu cho kênhnhị phân đối xứng rời rạc (BSC)
Các khái niệm
Các khái niệm (tt)
Chứng minh định lý
Chứng minh định lý (tt)
Chứng minh định lý (tt)
Chứng minh định lý (tt)
Chứng minh định lý (tt)
Chứng minh định lý (tt)
Chứng minh định lý (tt)
Ví dụ
Định lý
Định lý ngược của kênh truyền có nhiễu
Bài 11 Cơ sở toán học của mã chống nhiễu
Bài 11 Cơ sở toán học của mã chống nhiễu
Một số khái niệm cơ bản
Một số khái niệm cơ bản (tt)
Nhóm
Nhóm (tt)
Nhóm (tt)
Phép cộng và nhân modulo
Ví dụ
Ví dụ (tt)
Bổ đề
Trường
Trường (tt)
Trường (tt)
Trường Galois
Trường Galois
Trường Galois (tt)
Trị riêng của một trường
Trị riêng của một trường
Trị riêng của một trường (tt)
Chu kỳ của một phần tử
Nhóm tuần hoàn
Nhóm tuần hoàn (tt)
Phần tử cơ sở
Ví dụ
Trường GF(2)
Các đa thức trên trường GF(2)
Các đa thức trên trường GF(2) (tt)
Các đa thức trên trường GF(2) (tt)
Các đa thức trên trường GF(2) (tt)
Đa thức tối giản
Bổ đề
Trường GF(2m)
Đa thức tối thiểu
Đa thức tối thiểu (tt)
Định lý
Chứng minh
Chứng minh (tt)
Chứng minh (tt)
Hệ quả
Chứng minh
Định lý
Hệ quả
Hệ quả
Hệ quả (tt)
Bổ đề
Bổ đề (tt)
Bổ đề (tt)
Bổ đề (tt)
Bổ đề (tt)
Chứng minh (tt)
Chứng minh (tt)
Chứng minh (tt)
Hệ quả
Chứng minh
Định lý
Định lý (tt)
Định lý (tt)
Định lý (tt)
Tóm tắt
Tóm tắt (tt)
Ví dụ
Ví dụ (tt)
Ví dụ (tt)
Ví dụ (tt)
Bài 12 Mã khối tuyến tính
Giới thiệu
Cách biểu diễn mã – Ma trận sinh
Cách mã hóa
Ví dụ
Cách giải mã
Cách giải mã (tt)
Mã tuyến tính hệ thống
Ma trận sinh hệ thống
Ví dụ
Ví dụ (tt)
Phát hiện sai và sửa sai
Cách phát hiện sai
Ma trận kiểm tra
Ma trận kiểm tra (tt)
Ma trận kiểm tra (tt)
Ma trận kiểm tra (tt)
Chứng minh
Chứng minh (tt)
Ví dụ
Khả năng chống nhiễu tương đương
Bổ đề
Cách sửa sai
Tập giải mã - coset
Sơ đồ giải mã
Sơ đồ giải mã (tt)
Mã tuyến tính Hamming
Ma trận sinh của mã tuyến tính Hamming
Ma trận sinh của mã tuyến tính Hamming
Bài 13 Mã vòng
Giới thiệu
Ví dụ
Giới thiệu (tt)
Giới thiệu (tt)
Các tính chất của mã vòng
Các tính chất của mã vòng (tt)
Các tính chất của mã vòng (tt)
Các tính chất của mã vòng (tt)
Các tính chất của mã vòng (tt)
Các tính chất của mã vòng (tt)
Các tính chất của mã vòng (tt)
Các tính chất của mã vòng (tt)
Các tính chất của mã vòng (tt)
Ma trận sinh
Ví dụ
Mã vòng dạng hệ thống
Ví dụ
Ma trận kiểm tra của mã vòng
Ví dụ
Ứng dụng trường GF(2m)để xây dựng mã vòng
Ứng dụng trường GF(2m)để xây dựng mã vòng (tt)
Ứng dụng trường GF(2m)để xây dựng mã vòng (tt)
Mã BCH nhị phân
Định lý
Định lý (tt)
Ví dụ
Ví dụ (tt)
Ví dụ (tt)