Chapter 3 4 Nguồn tin CuuDuongThanCong com https //fb com/tailieudientucntt cu u d uo ng th an co ng c om http //cuuduongthancong com?src=pdf https //fb com/tailieudientucntt 3 4 1 Nguồn tin là gì? •[.]
.c om ng cu u du o ng th an co Chapter 3.4: Nguồn tin CuuDuongThanCong.com https://fb.com/tailieudientucntt .c om 3.4.1 Nguồn tin gì? si1, ,Sij, … cu u du o ng th an co ng • Thơng tin khái niệm trừu tượng Để nói thơng tin, lý thuyết thông tin gán cho tin ký hiệu nguồn • Tập ký hiệu nguồn gọi bảng chữ nguồn thường hữu hạn S = {s1, s2, …, sq} • Nguồn phát choỗi ký hiệu (bản tin) từ bangr chữ (alphabet) m = {si1, si2, …} ; sij ký hiệu si ϵ S, tạo thời điểm j • Mỗi ký hiệu tạo tuân theo luật phân bố xác suất • Mơ hình S • Tại thời điểm, ký hiệu phát coi giá trị biến ngâu nghiên (ví dụ X) • Xác suất giá trị biến ngâu nhiên = xác suất ký hiệu • Nguồn biến ngẫu nhiên CuuDuongThanCong.com https://fb.com/tailieudientucntt • Nguồn rời rạc co ng Tạo chữ (ký hiệu nguồn) rời rạc Bảng chữ thường hữu hạn Nguồn mô tả biến ngẫu nhiên Các loại nguồn rời rạc: an • Nguồn rời rạc không nhớ: chữ tạo độc lập ng th • Chữ tạo thời điểm không phụ thuộc vào chữ tạo thời điểm khác • Biến ngẫu nhiên mơ tả nguồn • X = {x1, x2…xn} • P(X) = {P(x1), P(x2),…P(Xn)} du o • Nguồn rời rạc có nhớ: ký hiệu nguồn (chữ) tạo phụ thuộc vào số chữ tạo trước u • Cấp nguồn thứ tự nguồn (tính chữ tạo trước đó) • Nguồn có nhớ thường mơ hình hóa chuỗi Markov gọi nguồn Markov cu • • • • c om 3.4.2 Các loại nguồn • Nguồn Ergodic nguồn có đặc trưng khơng phụ thuộc gốc thời gian trị trung bình theo thời gian trị trung bình theo tập hợp CuuDuongThanCong.com https://fb.com/tailieudientucntt .c om 3.4.2 loại nguồn (cont.) • Nguồn liên tục: ng • Bản tin tạo liên tục (theo thời gian giá trị) th cu u du o ng • X = P{x} xmin