Mời các bạn cùng tìm hiểu lịch sử môn học; vai trò của lý thuyết thông tin; nội dung môn học; yêu cầu với sinh viên được trình bày cụ thể trong Bài giảng 1 giới thiệu môn học Lý thuyết thông tin do Nguyễn Phương Thái biên soạn.
Bài giảng Giới thiệu môn học Giảng viên: Nguyễn Phương Thái Bộ mơn Khoa học Máy tính Trang web cá nhân: http://coltech.vnu.edu.vn/~thainp/ Trợ giảng: Nguyễn Kim Anh Nội dung giảng - Lịch sử mơn học Vai trò lý thuyết thông tin Nội dung môn học Yêu cầu với sinh viên Lịch sử môn học C E Shannon, “A mathematical theory of communication,” Bell System Technical Journal, vol 27, pp 379-423 and 623-656, July and October, 1948 Lịch sử môn học (tiếp) - Lần xác suất áp dụng vào phân tích truyền thơng - Ý tưởng đột phá “thông tin” (bất kể nguồn loại gì) mang tính số (digital) - Khái niệm “entropy” thông tin đời, dùng để đo “độ phức tạp” hay “độ ngẫu nhiên” nguồn thông tin - Các kênh thơng tin có dung tích mà ta truyền tín hiệu với tốc độ nhỏ tồn cách mã hóa tín hiệu mà nhờ ta đạt xác suất lỗi nhỏ tùy ý - Bài báo đặt tảng cho ngành nén liệu, mã hóa giải mã tín hiệu với khả phát lỗi sửa lỗi - Nhờ báo này, truyền thông hiểu nơm na bao gồm bước chính: mã hóa tín hiệu, truyền tín hiệu qua kênh thơng tin, giải mã tín hiệu Vai trò Lý thuyết Thơng tin Vai trò Lý thuyết Thơng tin (tiếp) - Trong kỹ thuật điện tử: giới hạn lý thuyết truyền thông Trong khoa học máy tính: độ phức tạp Kolmogorov Trong vật lý: lý thuyết thơng tin lượng tử Trong tốn học: bất đẳng thức, định lý giới hạn, kiểm định giả thuyết thống kê, lượng thông tin Fisher - Triết lý khoa học - Trong kinh tế học Nội dung môn học - Nhắc lại kiến thức XSTK - Entropy, entropy tương đối, thông tin tương hỗ - Nén liệu - Dung lượng kênh Mục tiêu môn học Môn học giúp sinh viên: - Biết ảnh hưởng lý thuyết thông tin lĩnh vực thống kê, học máy, kinh tế, v.v - Hiểu khái niệm lý thuyết thơng tin entropy, thơng tin tương hỗ - Có thể vận dụng để giải toán cần xác định lượng tin - Hiểu mơ hình truyền thơng theo quan điểm Shannon Yêu cầu với sinh viên - Tham gia học lớp làm tập (1 điểm chuyên cần) - Kiểm tra kỳ (hệ số 0.4) - Thi cuối kỳ (hệ số 0.5) ... đối, thông tin tương hỗ - Nén liệu - Dung lượng kênh Mục tiêu môn học Môn học giúp sinh viên: - Biết ảnh hưởng lý thuyết thông tin lĩnh vực thống kê, học máy, kinh tế, v.v - Hiểu khái niệm lý thuyết. .. Trong tốn học: bất đẳng thức, định lý giới hạn, kiểm định giả thuyết thống kê, lượng thông tin Fisher - Triết lý khoa học - Trong kinh tế học Nội dung môn học - Nhắc lại kiến thức XSTK - Entropy,... Vai trò Lý thuyết Thơng tin Vai trò Lý thuyết Thông tin (tiếp) - Trong kỹ thuật điện tử: giới hạn lý thuyết truyền thông Trong khoa học máy tính: độ phức tạp Kolmogorov Trong vật lý: lý thuyết