Hình 1 .6 Ví dụ về một số phép lọ c
Hình 1.17 Ví dụ về deep learning
b. Tổng quan
Hầu hết các mơ hình học sâu hiện đại đều dựa trên mạng thần kinh nhân tạo, cụ thể là mạng thần kinh tích chập (CNN), mặc dù chúng cũng có thể bao gồm các cơng thức mệnh đề hoặc các biến tiềm ẩn được tổ chức theo lớp trong các mơ hình sinh sâu. Trong học sâu, mỗi cấp độ học cách chuyển đổi dữ liệu đầu vào của mình thành một biểu diễn tổng hợp và trừu tượng hơn. Trong một ứng dụng nhận dạng hình ảnh, đầu vào thơ có thể là một ma trận các pixel; lớp biểu diễn đầu tiên có thể trừu tượng hóa các pixel và mã hóa các cạnh; lớp thứ hai có thể biên soạn và mã hóa sự sắp xếp của các cạnh; lớp thứ ba có thểmã hóa mũi và mắt; và lớp thứtư có thể nhận ra rằng hình ảnh có một khn mặt. Quan trọng hơn, một q trình học sâu có thể học hỏi tính năng để tối ưu vị trí tại cấp độ của nó. Điều này khơng loại bỏ hồn tồn nhu cầu điều chỉnh bằng tay; ví dụ, sốlượng lớp và kích thước lớp khác nhau có thể cung cấp các mức độ trừu tượng khác nhau.
Đối với các nhiệm vụ học tập có giám sát, phương pháp học sâu loại bỏtính năng kỹ thuật, bằng cách dịch dữ liệu thành các biểu diễn trung gian nhỏ gọn giống với các thành phần chính và tạo ra các cấu trúc phân lớp loại bỏ sựdư thừa trong biểu diễn.
Các thuật tốn học sâu có thểđược áp dụng cho các nhiệm vụ học tập khơng có giám sát. Đây là một lợi ích quan trọng vì dữ liệu khơng được gắn nhãn phong phú hơn dữ liệu được gắn nhãn.
c. Mạng thần kinh
Mạng thần kinh sâu (DNN) là mạng thần kinh nhân tạo (ANN) có nhiều lớp giữa các lớp đầu vào và đầu ra. Có nhiều loại mạng thần kinh khác nhau nhưng chúng luôn bao gồm các thành phần giống nhau: nơ-ron, khớp, trọng số, độ lệch và chức năng. Các thành phần này hoạt động tương tựnhư não người và có thểđược đào tạo giống như bất kỳ thuật toán học máy nào khác.
Kiến trúc sâu bao gồm nhiều biến thể của một vài cách tiếp cận cơ bản. Mỗi kiến trúc đã thành công trong các lĩnh vực cụ thể. Không phải lúc nào cũng có thể so
17 sánh hiệu suất của nhiều kiến trúc, trừkhi chúng đã được đánh giá trên cùng một tập dữ liệu.
DNN thường là mạng chuyển tiếp trong đó dữ liệu chảy từ lớp đầu vào đến lớp đầu ra mà không lặp lại. Lúc đầu, DNN tạo một bản đồcác nơ-ron ảo và gán các giá trị số ngẫu nhiên (trọng số) cho các kết nối giữa chúng. Trọng số và đầu vào được nhân lên và trả về kết quảđầu ra từ0 đến 1. Nếu mạng khơng nhận ra chính xác một mẫu cụ thể, một thuật toán sẽ điều chỉnh trọng số. Bằng cách đó, thuật tốn có thể làm cho các tham số nhất định có ảnh hưởng hơn, cho đến khi nó xác định được thao tác tốn học chính xác để xửlý đầy đủ dữ liệu.