... Tấn Tài & Ks. Dương Văn Hiếu.
29
Giáo trình: Lý thuyết thông tin.
Mô hình lý thuyết thông tin theo quan điểm Shannon
Lý thuyết thông tin được xét ở đây theo quan điểm của Shannon. Đối ... Hiếu.
36
Giáo trình: Lý thuyết thông tin.
Một vấn đề quan trọng cần lưu ý là phải đồng bộ giữa tốc độ nạp thông tin (phát tín hiệu) với tốc
độ truyền tin. Nếu tốc...
... n thông tin sơ ượ ề ự ể ố
- Telegraphy: là h th ng thông tin liên l c b ng đi n tín, đánh d u s phát tri n đ u
tiên c a h th ng truy n thông đi n. Đây là m t h th ng truy n thông ... đ c l p. Thông tin s bao g m các con %
s và các ký hi u (ví d nh các ký t trên bàn phím). Máy tính d a trên d ng th
hi n s (digital) c a thông...
... BÀI GIẢNG MÔN HỌC
LÝ THUYẾT THÔNG TIN
Trường Đại học Công Nghệ Thông Tin
Trang 10
Vai trò của thông tin
Các đối tượng sống luôn luôn có nhu cầu hiểu về ... chính xác. Hai định nghĩa về thông tin.
Thông tin là sự cảm hiểu của con người về thế giới xung quanh
thông qua sự tiếp xúc với nó.
Thông tin là một hệ thống những tin báo và mệnh lệnh giúp ... mang thông...
... nhập vào các nguồn tin, lưu được từ file và đọc lên từ file.
• Sắp xếp các tin theo thứ tự giảm dần của xác suất.
• Tính lượng tin riêng của mỗi tin, lượng tin của một dãy tin bất kỳ do người ... code, chương trình đã dịch sang mã máy (lưu trên đĩa
mềm hoặc đĩa CD) và bản thuyết minh giấy (có ghi rõ thông tin về các thành viên của
nhóm).
- Thời hạn:Sau khi hoc xong 1 tuan.
N...
... Technical Journal -
nơi đưa ra lý thuyết thông tin. Shannon đã giải thích hai khía cạnh này thông qua
định lý mã hóa nguồn và định lý mã hóa kênh truyền của ông.(Định lý mã hóa
nguồn của Shannon ... sổ, mục đích của những người thiết kế là chuyển
đổi thông tin thành tín hiệu sổ, chuyển đi thông qua một môi trường truyền tin, nhận
thông tin tại trạm cuối và tái hi...
... Hiếu.
13
Giáo trình: Lý thuyết thông tin.
Một vấn đề quan trọng cần lưu ý là phải đồng bộ giữa tốc độ nạp thông tin (phát tín hiệu) với tốc
độ truyền tin. Nếu tốc độ nạp thông tin bằng hoặc lớn ... Ks. Dương Văn Hiếu.
20
Giáo trình: Lý thuyết thông tin.
Minh họa kỹ thuật giảm nhiễu
Trong kỹ thuật truyền tin, người ta có thể làm giảm sai lầm khi nhận tin bằng cá...
... Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
24
Giáo trình: Lý thuyết thông tin.
Chứng minh định lý 3:
Từ định lý 1 và định lý về quan hệ giữa các Entropy, ta có:
H(X,Y)=H(X)+H(Y/X)≤ H(X)+ ... 3.
- Kiểm tra lại định lý cực đại từ dữ liệu cho trên.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
21
Giáo trình: Lý thuyết thông tin....
... Ks. Dương Văn Hiếu.
31
Giáo trình: Lý thuyết thông tin.
BÀI 3.3: TÍNH TỐI ƯU CỦA ĐỘ DÀI MÃ
Mục tiêu
Sau khi hoàn tất bài học này bạn có thể:
- Hiểu định lý Shannon (1948),
- Biết được các ... Dương Văn Hiếu.
35
Giáo trình: Lý thuyết thông tin.
BÀI 3.2: QUAN HỆ GIỮA MÃ TÁCH ĐƯỢC VÀ ĐỘ DÀI
MÃ
Mục tiêu
Sau khi hoàn tất bài học này bạn có thể hiểu:
- Định lý Kraft (...
...
Lượng thông tin truyền trên kênh:
I (X/Y)= I (Y/X)= H(Y) - H(Y/X) = 0,09 (bit)
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
47
Giáo trình: Lý thuyết thông tin. ... Phan Tấn Tài & Ks. Dương Văn Hiếu.
44
Giáo trình: Lý thuyết thông tin.
CHƯƠNG 4: KÊNH TRUYỀN
Mục tiêu:
Trình bày mô hình truyền tin rời rạc từng ký tự mã độc lập lẫn...