Lý thuyết thông tin

Giáo trình lý thuyết thông tin

... trình: Lý thuyết thông tin. GIỚI THIỆU TỔNG QUAN GIÁO TRÌNH LÝ THUYẾT THÔNG TIN MỤC ĐÍCH  Giáo trình này sẽ cung cấp cho người đọc những khối kiến thức cơ bản của lý thuyết thông ... 13Giáo trình: Lý thuyết thông tin. Một vấn đề quan trọng cần lưu ý là phải đồng bộ giữa tốc độ nạp thông tin (phát tín hiệu) với tốc độ truyền tin. Nếu tốc độ nạp thông tin bằng ... cứu, mô hình lý thuyết thông tin theo quan điểm của nhà toán học Shannon, khái niệm về lượng tin biết và chưa biết, định lý cơ bản của kỹ thuật truyền tin. Chương 2: Độ đo lượng tin. Chương này...

95
1,583
10

Lý thuyết thông tin

... b n tin. Khi đó tín hi u đc phát đi là tin hiu băng thông d i (phù hp v i kênh truy n) mang thông tin ca tín hiu b n tin. Vic t o ra tín hi u  băng thông d ... m c a thông tin sộ ố ượ ể ủ ố(1). H th ng thông tin s th ng ph c t p h n m t h th ng t ng t t ng   " $         đ ng.(2). Chi phí l p đ t l n h n so v i thông tin t ng ... c v s phát tri n thông tin sơ ượ ề ự ể ố- Telegraphy: là h th ng thông tin liên l c b ng đi n tín, đánh d u s phát tri n đ u         tiên c a h th ng truy n thông đi n. Đây là...

Slide bài giảng môn môn học lý thuyết thông tin

... kỳTrang 6CÁC MÔN LIÊN QUAN Lý thuyết xác suấtKỹ thuật truyền số liệuXử lý tín hiệu sốTrang 7Bài 1 Giới thiệu1.1 Thông tin là gì?1.2 Vai trò của thông tin1 .3 Lý thuyết thông tin nghiên cứu những ... nghiên cứu những gì?1.4 Những ứng dụng của lý thuyết thông tin1 .5 Lý thuyết thông tin – Lịch sử hình thành và quan điểm khoa học hiện đạiTrang 8Thông tin là gì?Một vài ví dụHai người nói chuyện ... thi.Trang 9Thông tin là gì? (tt)Nhận xét Thông tin là cái được truyền từ đối tượng này đến đối tượng khác để báo một “điều”gì đó. Thông tin chỉ có ý nghĩa khi “điều” đó bên nhận chưa biết. Thông tin...

316
3,165
43

Bài tập nhóm môn lý thuyết thông tin

... lên từ file.• Sắp xếp các tin theo thứ tự giảm dần của xác suất.• Tính lượng tin riêng của mỗi tin, lượng tin của một dãy tin bất kỳ do người sử dụng nhập vào. Tính lượng tin trung bình. (Các cơ ... bản thuyết minh giấy (có ghi rõ thông tin về các thành viên của nhóm).- Thời hạn:Sau khi hoc xong 1 tuan.Nội dung:1. Xây dựng chương trình có các chức năng sau:• Cho phép nhập vào các nguồn tin, ... vào hai nguồn tin X, Y, các xác suất p(xi) của X và ma trận các xác suất điều kiện p(yi | xi). Tính các lượng tin tương hỗ I(xi,yj), các lượng tin có điều kiện I(xi,yj), lượng tin tương hỗ trung...

2
3,722
27

Lý thuyết thông tin

... Technical Journal - nơi đưa ra lý thuyết thông tin. Shannon đã giải thích hai khía cạnh này thông qua định lý mã hóa nguồn và định lý mã hóa kênh truyền của ông.(Định lý mã hóa nguồn của Shannon ... trên lý thuyết này, những văn bản tiếng Anh không thể nén xuống ít hơn 1.5 bits/ký tự mặc dù bạn có sử dụng những bộ mã và giải mã tinh vi .Lý thuyết này đặt nền tảng cho việc mã hóa thông tin ... sổ, mục đích của những người thiết kế là chuyển đổi thông tin thành tín hiệu sổ, chuyển đi thông qua một môi trường truyền tin, nhận thông tin tại trạm cuối và tái hiện lại tín hiệu sổ một cách...

3
1,072
10

Giáo trình: Lý thuyết thông tin 1

... trình: Lý thuyết thông tin. GIỚI THIỆU TỔNG QUAN GIÁO TRÌNH LÝ THUYẾT THÔNG TIN MỤC ĐÍCH  Giáo trình này sẽ cung cấp cho người đọc những khối kiến thức cơ bản của lý thuyết thông ... với quy trình cơ bản: mã hóa, giải mã và bảo mật thông tin.  Lý thuyết thông tin cũng là một trong các môn học khó của ngành Công nghệ thông tin vì nó đòi hỏi người học phải có kiến thức cơ ... cứu, mô hình lý thuyết thông tin theo quan điểm của nhà toán học Shannon, khái niệm về lượng tin biết và chưa biết, định lý cơ bản của kỹ thuật truyền tin. Chương 2: Độ đo lượng tin. Chương này...

10
1,001
9

Giáo trình: Lý thuyết thông tin 2

... 13Giáo trình: Lý thuyết thông tin. Một vấn đề quan trọng cần lưu ý là phải đồng bộ giữa tốc độ nạp thông tin (phát tín hiệu) với tốc độ truyền tin. Nếu tốc độ nạp thông tin bằng ... tin của kênh, thì cần phải giảm tốc độ nạp thông tin sao cho nhỏ hơn tốc độ truyền tin. Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 14Giáo trình: Lý thuyết thông ... đều mang một lượng tin và thông tin về X và Y chưa biết do chúng là ngẫu nhiên. Do đó, X hay Y đều có một lượng tin không chắc chắn và lượng tin chắc chắn, tổng của 2 lượng tin này là không đổi...

Giáo trình: Lý thuyết thông tin 3

... Phan Tấn Tài & Ks. Dương Văn Hiếu. 24Giáo trình: Lý thuyết thông tin. Chứng minh định lý 3: Từ định lý 1 và định lý về quan hệ giữa các Entropy, ta có: H(X,Y)=H(X)+H(Y/X)≤ ... ta biết hoàn toàn về Y và một phần thông tin về X. Phần thông tin đó chính là lượng tin đã biết về X nhưng vẫn chưa biết hết về X. Bài toán ở đây là tính lượng tin đã biết về X khi Y xảy ra. Ký ... 1,2 và 3 hãy minh họa các định lý 1, 2 và 3 cho bài học. Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 25Giáo trình: Lý thuyết thông tin. BÀI ...

Giáo trình: Lý thuyết thông tin 4

... Ks. Dương Văn Hiếu. 31Giáo trình: Lý thuyết thông tin. BÀI 3.3: TÍNH TỐI ƯU CỦA ĐỘ DÀI MÃ Mục tiêu Sau khi hoàn tất bài học này bạn có thể: - Hiểu định lý Shannon (1948), - Biết được các ... Dương Văn Hiếu. 35Giáo trình: Lý thuyết thông tin. BÀI 3.2: QUAN HỆ GIỮA MÃ TÁCH ĐƯỢC VÀ ĐỘ DÀI MÃ Mục tiêu Sau khi hoàn tất bài học này bạn có thể hiểu: - Định lý Kraft (1949), - Định nghĩa ... Giáo trình: Lý thuyết thông tin. CHƯƠNG 3: SINH MÃ TÁCH ĐƯỢC (Decypherable Coding) Mục tiêu: Phân này đề cập đến...

Giáo trình: Lý thuyết thông tin 5

... Lượng thông tin truyền trên kênh: I (X/Y)= I (Y/X)= H(Y) - H(Y/X) = 0,09 (bit) Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 47Giáo trình: Lý thuyết thông tin. ... Phan Tấn Tài & Ks. Dương Văn Hiếu. 44Giáo trình: Lý thuyết thông tin. CHƯƠNG 4: KÊNH TRUYỀN Mục tiêu: Trình bày mô hình truyền tin rời rạc từng ký tự mã độc lập lẫn nhau (phù hợp với ... đây chúng ta chỉ xét mô hình vật lý như sau: Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 45Giáo trình: Lý thuyết thông tin. Xét từng ký tự ở đầu nhận chỉ...

Xem thêm