(Tiểu luận) học sâu và mạng nơ ron nhân tạo mạng nơ ron nhân tạo

HỌC SÂU VÀ MẠNG NƠ-RON NHÂN TẠO NHD: TS Nguyễn Huy Hoàng Khoa Điện tử - Trường Điện – Điện tử Mạng nơ ron nhân tạo • • • • Lịch sử phát triển Các hệ mạng nơ-ron nhân tạo Một số mạng nơ-ron nhân tạo phổ biến Các phương pháp huấn luyện phố biến Lịch sử phát triển • 1943 - mơ hình mạng nơ ron phát triển (Warren McCulloch and Walter Pitts) • 1958 - Frank Rosenblatt - bắt đầu làm việc với mơ hình Perceptron (Gen 1) • 1959 - Bernard Widrow & Marcian Hoff đề xuất mơ hình : ADALINE MADALINE - Multiple ADAptive LINear Elements (thế hệ mạng ứng dụng vào thực tế) • 1969 đến 1981 - Nghiên cứu Mạng Nơ ron bị trì trệ • 1997 - Recurrent neuron model - LSTM • 1998 - Gradient-based Learning (Document recognition) - LeNet - First CNN model (Gen 2) Các hệ mạng nơ-ron nhân tạo – Gen • Thế hệ mạng nơ-ron dựa nơ-ron cổng ngưỡng perceptron • Những tế bào thần kinh khơng có chức kích hoạt phi tuyến tính; thay vào đó, đầu họ 0, tùy thuộc vào việc tổng trọng số đầu vào họ hay ngưỡng ‘t’ Các hệ mạng nơ-ron nhân tạo – Gen • Thế hệ thứ hai mạng nơ-ron bao gồm nơ-ron áp dụng hàm liên tục phi tuyến tính cho tổng đầu vào có trọng số tạo tập hợp liên tục giá trị đầu có • Một số ví dụ hàm kích hoạt hàm sigmoid Các hệ mạng nơ-ron nhân tạo – Gen (tiếp) – MẠNG ANN Các hệ mạng nơ-ron nhân tạo – Gen (tiếp) – VÍ DỤ • Xét ví dụ sau: phân loại bệnh nhân bị bệnh bị bệnh tiểu đường không bị bệnh tiểu đường Các hệ mạng nơ-ron nhân tạo – Gen (tiếp) – VÍ DỤ • Xét ví dụ sau: NON-HUMAN HUMAN phân loại ảnh sau ảnh người ảnh người ? 10