Giáo trình lý thuyết mạch tín hiệu tập 2 phần 2 PGS TS đỗ huy giác, TS nguyễn văn tách

Giáo trình Lý thuyết thông tin ( Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu ) doc

Giáo trình Lý thuyết thông tin ( Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu ) doc

... H(0.5, 0 5) = -(0 .5)log(0. 5) -(0 .5)log(0. 5) = (bit) Entropy Y: H(X) = H(0.125, 0.25, 0.62 5) = -(0 .125)log(0.12 5) + (0 .25)log(0.2 5) + (0 .625)log(0.62 5) = 1.2988 (bit) Entropy X Y: H(X,Y) Xem tập ... I (X/Y)= I (Y/X)= H(Y) - H(Y/X) = 0,09 (bit) Biên soạn: TS L ê Quy ết Thắng, ThS Phan Tấn Tài & Ks Dương Văn Hiếu 47 www.te...

Ngày tải lên: 08/08/2014, 09:22

95 1,3K 7
Giáo trình lý thuyết thông tin

Giáo trình lý thuyết thông tin

... Văn Hiếu Giáo trình: Lý thuyết thông tin GIỚI THIỆU TỔNG QUAN GIÁO TRÌNH LÝ THUYẾT THÔNG TIN MỤC ĐÍCH Giáo trình cung cấp cho người đọc khối kiến thức lý thuyết thông tin như: Độ lượng tin (Measure ... Văn Hiếu Giáo trình: Lý thuyết thông tin Mô hình lý thuyết thông tin theo quan điểm Shannon Lý thuyết thông tin xét theo quan điểm Shannon...

Ngày tải lên: 23/08/2012, 16:23

95 1,6K 10
Giáo trình: Lý thuyết thông tin 2

Giáo trình: Lý thuyết thông tin 2

... Hiếu 12 Giáo trình: Lý thuyết thông tin i p (Y = i ) = C n p i q n −i i Trong đó: C n = n! i!( n − i )! Vậy truyền sai Y ∈ {2, 3} có xác xuất là: Psai= P(y 2) = P(Y =2) + P(Y=3) = B (2, 3) + B (2, 3) ... Dương Văn Hiếu 14 Giáo trình: Lý thuyết thông tin CHƯƠNG 2: ĐỘ ĐO LƯỢNG TIN Mục tiêu: trình bày khái niệm độ đo lượng tin chưa biết biết biến ngẫu nhiên X Tính t...

Ngày tải lên: 09/10/2012, 14:53

10 827 5
Giáo trình: Lý thuyết thông tin 3

Giáo trình: Lý thuyết thông tin 3

... TS L ê Quy ết Thắng, ThS Phan Tấn Tài & Ks Dương Văn Hiếu 24 Giáo trình: Lý thuyết thông tin Chứng minh định lý 3: Từ định lý định lý quan hệ Entropy, ta có: H(X,Y)=H(X)+H(Y/X)≤ H(X)+ H(Y) => ... 23 Giáo trình: Lý thuyết thông tin M L M L ⇒ −∑ ∑ p ij log q ij ≥ −∑∑ p ij log p ij i =1 j = i (2) i =1 j =1 Đẳng thức xảy p(xi, yj)=pij =qij =p(xi)p(yj) hay X , Y độc...

Ngày tải lên: 09/10/2012, 14:53

10 770 5
Giáo trình: Lý thuyết thông tin 4

Giáo trình: Lý thuyết thông tin 4

... Giáo trình: Lý thuyết thông tin Bộ mã gọi tách từ dãy ký tự mã nhận liên tục (được mã hóa từ mã này), ta luôn giải mã với kết dãy giá trị gốc X Shannon (1 948 ) lần đưa định lý sở sinh ... S3={11} Biên soạn: TS L ê Quy ết Thắng, ThS Phan Tấn Tài & Ks Dương Văn Hiếu 34 Giáo trình: Lý thuyết thông tin Tập hợp S4={00, 110} Tập hợp S5={01, 0, 011, 110} Tập hợp S6={0, 10...

Ngày tải lên: 09/10/2012, 14:53

10 755 4
Giáo trình: Lý thuyết thông tin 5

Giáo trình: Lý thuyết thông tin 5

... x23 0. 45 x 156 4 0 .55 x2 0. 25 x2 0. 25 x564 0. 25 x1 0.3 x23 x3 0.2 x3 02 x2 0, 25 x564 0. 25 x4 0.1 x56 0. 15 x3 0.2 x5 0.1 x4 0.1 x6 0. 05 Thủ tục tiến: Bước Bước X W x 156 4 x23 X W x23 x1 00 x564 01 ... phân phối sau: X P x1 x2 x3 x4 x5 x6 0.3 0. 25 0.2 0.1 0.1 0. 05 Biên soạn: TS L ê Quy ết Thắng, ThS Phan Tấn Tài & Ks Dương Văn Hiếu 42 Giáo trình: Lý thuyết thông...

Ngày tải lên: 09/10/2012, 14:53

10 772 2
Giáo trình: Lý thuyết thông tin 6

Giáo trình: Lý thuyết thông tin 6

... Quy ết Thắng, ThS Phan Tấn Tài & Ks Dương Văn Hiếu 53 Giáo trình: Lý thuyết thông tin Các khái niệm kỹ thuật truyền tin Xét sơ đồ truyền tin sau: R Nguồn Kênh Bộ tạo mã ký tự mã Bộ giải mã nhiễu ... Quy ết Thắng, ThS Phan Tấn Tài & Ks Dương Văn Hiếu 57 Giáo trình: Lý thuyết thông tin Bài tập 1 Cho ma trận truyền tin sau: x1 ⎡1 / / / 6 x2 ⎢1 / / / 2⎥ ⎢ ⎥ x3 ⎢1 /...

Ngày tải lên: 09/10/2012, 14:54

10 783 3
Giáo trình: Lý thuyết thông tin 7

Giáo trình: Lý thuyết thông tin 7

... số bit thông tin ⇒ s=2k (vì với k bit thông tin ta biểu diên tối đa 2k trạng thái thông tin k bit) + Đoạn kiểm tra: gồm m bit dùng để kiểm tra mã sai + Đoạn thông tin: gồm k bit thông tin Mỗi ... Tài & Ks Dương Văn Hiếu 67 Giáo trình: Lý thuyết thông tin Ví dụ tìm m nhỏ từ n e Giả sử biết trước n =7 e=1 Tìm số bit kiểm tra tối thiểu cần thiết mã chẵn lẻ Theo đ...

Ngày tải lên: 09/10/2012, 14:54

10 625 5
Giáo trình: Lý thuyết thông tin 8

Giáo trình: Lý thuyết thông tin 8

... & Ks Dương Văn Hiếu 78 Giáo trình: Lý thuyết thông tin BÀI 5.7: THANH GHI LÙI TỪNG BƯỚC Mục tiêu Sau hoàn tất học bạn biết: - Đặt vấn đề ghi lùi bước, - Cách biểu diễn vật lý ghi, - Cách biểu ... phương trình: A.w1=0, A.w2=0, A.w3=0 Các từ mã lại xác định theo phương pháp sinh mã nhanh Biên soạn: TS L ê Quy ết Thắng, ThS Phan Tấn Tài & Ks Dương Văn Hiếu 77 Giáo trình: Lý...

Ngày tải lên: 09/10/2012, 15:04

10 861 2
Giáo trình: Lý thuyết thông tin 9

Giáo trình: Lý thuyết thông tin 9

... vòng Biên soạn: TS L ê Quy ết Thắng, ThS Phan Tấn Tài & Ks Dương Văn Hiếu 85 Giáo trình: Lý thuyết thông tin BÀI 5 .9: ĐA THỨC ĐẶC TRƯNG CỦA THANH GHI Mục tiêu Sau hoàn tất học bạn có thể: - Hiểu ... = 0, a3 = Biên soạn: TS L ê Quy ết Thắng, ThS Phan Tấn Tài & Ks Dương Văn Hiếu 89 Giáo trình: Lý thuyết thông tin Bước 1: Sinh mã xoay vòng w1 =110010000000000 Bước 2: Si...

Ngày tải lên: 09/10/2012, 15:04

10 548 1
Giáo trình: Lý thuyết thông tin 10

Giáo trình: Lý thuyết thông tin 10

... Văn Hiếu 92 Giáo trình: Lý thuyết thông tin Câu 2: Phân lớp giá trị Y lớp B0, B1, B2, B3 dùng để giải mã tối ưu Y tốt giá trị tương ứng X Câu : Bây người ta sử dụng bit để mã thông tin X bit để ... Quy ết Thắng, ThS Phan Tấn Tài & Ks Dương Văn Hiếu 93 Giáo trình: Lý thuyết thông tin Câu 4: Từ kết câu 3, người ta sử dụng bit để mã thông tin Triệu chứng (có triệu...

Ngày tải lên: 09/10/2012, 15:04

5 843 1
w