HƯỚNG DẪN TRÌNH BÀY ĐỒ ÁN TỐT NGHIỆP BỘ CÔNG THƯƠNG TRƯỜNG ĐẠI HỌC CÔNG NGHIỆP HÀ NỘI BÀI TẬP LỚN MÔN TRÍ TUỆ NHÂN TẠO ĐỀ TÀI TÌM HIỂU MẠNG CNN VÀ ỨNG DỤNG NHẬN DẠNG MẶT NGƯỜI Hà Nội Năm 2023 MỤC LỤC[.]
BỘ CÔNG THƯƠNG TRƯỜNG ĐẠI HỌC CÔNG NGHIỆP HÀ NỘI BÀI TẬP LỚN MƠN: TRÍ TUỆ NHÂN TẠO ĐỀ TÀI TÌM HIỂU MẠNG CNN VÀ ỨNG DỤNG NHẬN DẠNG MẶT NGƯỜI Hà Nội - Năm 2023 MỤC LỤC DANH MỤC HÌNH III CÁC TỪ VIẾT TẮT .V CHƯƠNG 1: TỔNG QUAN VỀ MẠNG NƠ RON VÀ GIỚI THIỆU VỀ MẠNG NƠ RON TÍCH CHẬP .1 1.1 NƠ RON NHÂN TẠO .1 1.1.1 Lịch sử nơ ron nhân tạo 1.1.2 Cấu tạo trình xử lý nơ ron sinh học 1.1.3 Cấu tạo trình xử lý nơ ron nhân tạo 1.1.4 Các mơ hình hàm kích hoạt mạng nơ ron nhân tạo 1.2 MẠNG NƠ RON TÍCH CHẬP 1.2.1 Khái niệm mạng nơ ron tích chập 1.2.2 Mơ hình mạng nơ ron tích chập 1.2.3 Xây dựng mạng nơ ron tích chập 10 CHƯƠNG 2: XÂY DỰNG CHƯƠNG TRÌNH .19 2.1 XÂY DỰNG MƠ HÌNH 19 2.2 CÁC BƯỚC THỰC HIỆN 19 2.2.1 Tạo tập liệu 19 2.2.2 Huấn luyện liệu đưa vào 24 2.2.3 Hiển thị liệu đầu .30 2.3 KẾT QUẢ SAU KHI HUẤN LUYỆN .31 2.4 ĐƯA HÌNH ẢNH MỘT NGƯỜI CẦN NHẬN DIỆN 32 KẾT LUẬN 35 PHỤ LỤC 36 TÀI LIỆU THAM KHẢO 39 i TĨM TẮT Deep Learning thuật tốn dựa số ý tưởng từ não tới việc tiếp thu nhiều tầng biểu đạt, cụ thể lẫn trừu tượng, qua làm rõ nghĩa loại liệu Deep Learning ứng dụng nhận diện hình ảnh, nhận diện giọng nói, xử lý ngơn ngữ tự nhiên Hiện nhiều toán nhận dạng sử dụng Deep Learning, giải toán với số lượng lớn biến, tham số kích thước đầu vào lớn với hiệu độ xác vượt trội so với phương pháp phân lớp truyền thống, xây dựng hệ thống thơng minh với độ xác cao Trong báo cáo này, nghiên cứu đề tài “Nhận diện khuôn mặt” theo hướng dẫn Giảng viên Lê Thị Thủy ii DANH MỤC HÌNH Hình 1.1 Hình ảnh thí nghiệm David Hubel Torsten Wiesel mèo Hình 1.2 Hình ảnh nơ ron sinh học .2 Hình 1.3 Cơng thức nơ ron nhân tạo Hình 1.4 Hình ảnh nơ ron nhân tạo Hình 1.5 Hình ảnh vị trí thiên lệch thêm vào thực tế Hình 1.6 Kết hàm sigmoid với trọng số đầu vào khác khơng có thiên lệch Hình 1.7 Kết hàm sigmoid với trọng số thiên lệch khác Hình 1.8 Đồ thị hàm Sigmoid .6 Hình 1.9 Đồ thị hàm TanH Hình 1.10 Đồ thị hàm tuyến tính Hình 1.11 Đồ thị hàm RELU Hình 1.12 Đồ thị hàm ELU Hình 1.13 Các tầng (layer) CNN chiều Hình 1.14 Hình ảnh minh họa ví dụ sử dụng CNN để phân lớp đồ vật Hình 1.15 Ví dụ minh họa cấu trúc CNNs – LeNet – 10 Hình 1.16 Hình ảnh mạng nơ ron kết nối đầy đủ 10 Hình 1.17 Tích chập ma trận nhỏ để tạo liệu .11 Hình 1.18 Ví dụ lớp tích chập .12 Hình 1.19 So sánh ReLU sigmoid 14 Hình 1.20 Ví dụ minh họa đơn giản tầng gộp .15 Hình 1.21 Một ví dụ lớp kết nối đầy đủ 16 Hình 1.22 Ví dụ trường hợp khớp (bên trái) trường hợp chuẩn (bên phải) .17 Hình 1.23 Cấu trúc AlexNet 18 Hình 2.1 Sơ đồ quy trình mơ hình nhận dạng khn mặt .19 Hình 2.2 Chuyển ảnh xám .20 Hình 2.3 Tầm nhìn máy tính đặc trưng Haar chạy 21 Hình 2.4 Tạo khung khuôn mặt 21 iii Hình 2.5 Các đặc trưng Haar đánh dấu nơi khn mặt .22 Hình 2.6 Bức ảnh xác định khuôn mặt 22 Hình 2.7 Đưa ảnh cần nhận diện vào chương trình .23 Hình 2.8 Sau phát khuôn mặt .23 Hình 2.9 Dữ liệu lưu 23 Hình 2.10 Kiến trúc dạng khối mơ hình CNN 24 Hình 2.11 Một ảnh đầu vào kích thước 100x100x1 (đa cấp xám) 25 Hình 2.12 Kết sau thực khối B2 .26 Hình 2.13 Kết sau thực khối B3 .26 Hình 2.14 Kết sau thực khối B4 27 Hình 2.15 Kết sau thực khối B5 .27 Hình 2.16 Kết sau thực khối B6 .28 Hình 2.17 Dữ liệu phân lớp mơ hình CNN 29 Hình 2.18 Dữ liệu danh tính 30 Hình 2.19 Hơn 20 triệu trọng số huấn luyện .31 Hình 2.20 Độ xác giá trị hàm lỗi theo epoch .32 Hình 2.21 Hình ảnh trước nhận diện .32 Hình 2.22 Hình ảnh sau nhận diện (Trường Giang) .33 Hình 2.23 Hình ảnh trước nhận diện người 33 Hình 2.24 Hình ảnh sau nhận diện người 34 iv CÁC TỪ VIẾT TẮT ReLu Rectified Linear Unit CNN Convolutional Neural Network OpenCV Open Source Computer Vision CV Computer Vision MLL Machine Learning Library CONV Convolution v CHƯƠNG 1: TỔNG QUAN VỀ MẠNG NƠ RON VÀ GIỚI THIỆU VỀ MẠNG NƠ RON TÍCH CHẬP 1.1 NƠ RON NHÂN TẠO 1.1.1 Lịch sử nơ ron nhân tạo Vào năm 1943, nhà thần kinh học Warren McCulloch nhà toán học Walter Pitts viết sách cách mạng thần kinh hoạt động Và họ thực mô mạng thần kinh đơn giản mạch điện [9] Vào năm 1949, Donald Hebb viết sách Organization of Behavior Điểm nhấn mạng thần kinh sử dụng nhiều tăng cường Vào năm 1959, David Hubel Torsten Wiesel xuất sách Receptive fields of single neurons in the cat’s striate cortex, miêu tả phản ứng tế bào thần kinh thị giác loài mèo, cách lồi mèo ghi nhớ nhận diện hình dạng kiến trúc vỏ não Hình 1.1 Hình ảnh thí nghiệm David Hubel Torsten Wiesel mèo Vào năm 1989, Yann LeCun áp dụng thuật toán học cho mạng nơ ron theo kiểu lan truyền ngược vào kiến trúc mạng nơ ron tích chập Fukushima Sau vài năm, LeCun cơng bố LeNet-5 [13] Có thể nói, LeNet-5 mạng nơ ron tích chập sơ khai nhất, nhiên dấu ấn tồn tới ngày nay, thấy thông qua số thành phần thiết yếu mà mạng nơ ron tích chập ngày sử dụng 1.1.2 Cấu tạo trình xử lý nơ ron sinh học Hình 1.2: Hình ảnh nơ ron sinh học Một nơ ron gồm có: thân nơ ron, tua gai thần kinh, sợi trục thần kinh, đó: Thân nơ ron: nơi xử lý tín hiệu đưa vào; Tua gai thần kinh: nơi nhận xung điện vào nơ ron; Sợi trục thần kinh: nơi đưa tín hiệu ngồi sau xử lý nơ ron; Khớp thần kinh: vị trí nằm tua gai thần kinh sợi trục thần kinh, điểm liên kết đầu nơ ron với đầu vào nơ ron khác 1.1.3 Cấu tạo trình xử lý nơ ron nhân tạo Dựa vào cấu tạo nơ ron sinh học, nhà khoa học nghiên cứu lập trình đưa kiến trúc nơ ron nhân tạo: Hình 1.3: Cơng thức nơ ron nhân tạo Mạng nơ ron nhân tạo mơ tả đơn giản lại sau: Hình 1.4: Hình ảnh nơ ron nhân tạo Trong đó: