Vũ Hữu Tiệp Machine Learning machinelearningcoban.com Machine Learning https://thuviensach.vn Cập nhật lần cuối: 20/01/2020 Bản quyền ©2016 - 2020: Vũ Hữu Tiệp Mọi hình thức chép, in ấn cần đồng ý tác giả Mọi chia sẻ cần dần nguồn tới https://github.com/tiepvupsu/ebookMLCB https://thuviensach.vn Mục lục Mục lục Lời nói đầu 15 0.1 Mục đích sách 16 0.2 Hướng tiếp cận sách 17 0.3 Dối tượng sách 17 0.4 Yêu cầu kiến thức 18 0.5 Mã nguồn kèm 19 0.6 Bố cục sách 19 0.7 Các lưu ý ký hiệu 19 0.8 Tham khảo thêm 20 0.9 Đóng góp ý kiến 21 0.10 Lòi cảm ơn 21 0.11 Bảng ký hiệu 21 Phần I Kiến thức tốn Ơn tập Đại số tuyến tính 24 1.1 Lưu ý ký hiệu 24 1.2 Chuyển vị Hermitian 24 Machine Learning https://thuviensach.vn Mục lục 1.3 Phép nhân hai ma trận 25 1.4 Ma trận đơn vị ma trận nghịch đảo 27 1.5 Một vài ma trận đặc biệt khác 28 1.6 Dịnh thức 29 1.7 Tổ hợp tuyến tính, khơng gian sinh 30 1.8 Hạng ma trận 32 1.9 Hệ trực chuẩn, ma trận trực giao 33 1.10 Biễu diễn vector hệ sở khác 34 1.11 Trị riêng vector riêng 35 1.12 Chéo hoá ma trận 36 1.13 Ma trận xác định dương 38 1.14 Chuẩn 40 1.15 Vết 42 Giải tích ma trận 43 2.1 Gradient hàm trả số vô hướng 43 2.2 Gradient hàm trả vector 45 2.3 Tính chất quan trọng gradient 46 2.4 Gradient hàm số thường gặp 46 2.5 Bảng gradient thường gặp 49 2.6 Kiểm tra gradient 49 Ôn tập Xác suất 54 3.1 Xác suất 54 3.2 Một vài phân phối thường gặp 62 Machine Learning https://thuviensach.vn Mục lục ước lượng tham số mơ hình 67 4.1 Giới thiệu 67 4.2 ước lượng hợp lý cực đại 68 4.3 ước lượng hậunghiệm cực đại 73 4.4 Tóm tắt 77 Phần II Tổng quan Các khái niệm 80 5.1 Nhiệm vụ, kinh nghiệm, phép đánh giá 80 5.2 Dữ liệu 81 5.3 Các toán machine learning 82 5.4 Phân nhóm thuật tốn machine learning 84 5.5 Hàm mát tham số mơ hình 86 Các kỹ thuật xây dựng đặc truing 88 6.1 Giới thiệu 88 6.2 Mơ hình chung cho tốn machine learning 89 6.3 Một số kỹ thuật trích chọn đặc trưng 91 6.4 Học chuyển tiếp cho toán phân loại ảnh 96 6.5 Chuẩn hoá vector đặc trưng 99 Hồiquy tuyến tính 100 7.1 Giới thiệu 100 7.2 Xây dựng tối ưu hàm mát .101 7.3 Ví dụ Python 103 Machine Learning https://thuviensach.vn Mục lục 7.4 Thảo luận 106 Quá khớp .108 8.1 Giới thiệu 108 8.2 Xác thực 111 8.3 Cơ chế kiểm soát 113 8.4 Dọc thêm 115 Phần III Khởi động K lân cận .118 9.1 Giới thiệu 118 9.2 Phân tích tốn học 119 9.3 Ví dụ sở liệu Iris 122 9.4 Thảo luận 126 10 Phân cụm K-means 128 10.1 Giới thiệu 128 10.2 Phân tích tốn học 129 10.3 Ví dụ Python 133 10.4 Phân cụm chữ số viết tay 136 10.5 Tách vật thể ảnh 139 10.6 Nén ảnh 140 10.7 Thảo luận .141 Machine Learning https://thuviensach.vn Mục lục 11 Bộ phân loại naive Bayes .145 11.1 Bộ phân loại naive Bayes 145 11.2 Các phân phối thường dùng NBC 147 11.3 Ví dụ 148 11.4 Thảo luận .155 Phần IV Mạng neuron nhân tạo 12 Gradient descent 158 12 Giới thiệu 158 12 Gradient descent cho hàm biến 159 12 Gradient descent cho hàm nhiều biến 164 12 Gradient descent với momentum 167 12 Nesterov accelerated gradient 170 12 Stochastic gradient descent 171 12 Thảo luận .173 13 Thuật toán học perceptron 175 13.1 Giới thiệu 175 13.2 Thuật toán học perceptron 176 13.3 Ví dụ minh hoạ Python 179 13.4 Mơ hình mạng neuron 180 13.5 Thảo Luận .183 Machine Learning https://thuviensach.vn Mục lục 14 Hồi quy logistic 185 14.1 Giới thiệu .185 14.2 Hàm mát phương pháp tối ưu 188 14.3 Triển khai thuật toán Python 190 14.4 Tính chất hồi quy logistic 193 14.5 Bài toán phân biệt hai chữ số viết tay 195 14.6 Bài toán phân loại đa lớp 196 14.7 Thảo luận 198 15 Hồi quy soítmax 201 15.1 Giới thiệu .201 15.2 Hàm soítmax 202 15.3 Hàm mátvà phương pháp tối ưu 205 15.4 Ví dụ Python 211 15.5 Thảo luận 213 16 Mạng neuron đa tầng lan truyền ngược .214 16.1 Giới thiệu .214 16.2 Các ký hiệu khái niệm 217 16.3 Hàm kích hoạt 218 16.4 Lan truyền ngược 220 16.5 Ví dụ Python 225 16.6 Suy giảm trọng số 230 16.7 Dọc thêm 232 Machine Learning https://thuviensach.vn Mục lục Phần V Hệ thống gợi ý 17 Hệ thống gợi ý dựa nội dung 234 17.1 Giới thiệu .234 17.2 Ma trận tiện ích 235 17.3 Hệ thống dựa nội dung 237 17.4 Bài toán MovieLens 100k 240 17.5 Thảo luận 244 18 Lọc cộng tác lân cận 245 18.1 Giới thiệu .245 18.2 Lọc cộng tác theo ngườidùng 246 18.3 Lọc cộng tác sản phẩm .251 18.4 Lập trình Python 253 18.5 Thảo luận 256 19 Lọc cộng tác phân tíchma trận 257 19.1 Giới thiệu .257 19.2 Xây dựng tối líu hàmmấtmát 259 19.3 Lập trình Python 261 19.4 Thảo luận 264 10 Machine Learning https://thuviensach.vn