Tìm Hiểu Mạng Noron Và Ứng Dụng Nhận Diện Thú Cưng.docx

TRƯỜNG ĐẠI HỌC CÔNG NGHIỆP HÀ NỘI KHOA CÔNG NGHỆ THÔNG TIN ======***====== BÀI TẬP LỚN TRÍ TUỆ NHÂN TẠO ĐỀ TÀI TÌM HIỂU MẠNG NORON VÀ ỨNG DỤNG NHẬN DIỆN THÚ CƯNG Hà Nội,2023 [Type text] LỜI CẢM ƠN Lời[.]

TRƯỜNG ĐẠI HỌC CÔNG NGHIỆP HÀ NỘI KHOA CÔNG NGHỆ THƠNG TIN ======***====== BÀI TẬP LỚN: TRÍ TUỆ NHÂN TẠO ĐỀ TÀI: TÌM HIỂU MẠNG NORON VÀ ỨNG DỤNG NHẬN DIỆN THÚ CƯNG Hà Nội,2023 [Type text] LỜI CẢM ƠN Lời đầu tiên, nhóm chúng em xin gửi lời cảm ơn chân thành đến Th.S Lê Thị Thủy Trong q trình học tập tìm hiểu mơn Trí Tuệ Nhân Tạo, chúng em nhận quan tâm giúp đỡ, hướng dẫn tận tình tâm huyết Có lẽ kiến thức vơ hạn mà tiếp nhận kiến thức thân người ln tồn hạn chế định Do đó, q trình hồn thành báo cáo chắn khơng tránh khỏi thiếu sót Vì vậy, nhóm chúng em mong nhận đóng góp từ để báo cáo chúng em hoàn thiện Chân thành cảm ơn cô! [Type text] MỤC LỤC CHƯƠNG 1: TỔNG QUAN VỀ MẠNG NƠ RON VÀ GIỚI THIỆU VỀ MẠNG NƠ RON TÍCH CHẬP 1.1 Nơ ron nhân tạo 1.1.1 Lịch sử nơ ron nhân tạo 1.1.2 Cấu tạo trình xử lý nơ ron sinh học .3 1.1.3 Cấu tạo trình xử lý nơ ron nhân tạo 1.1.4 Các mơ hình hàm kích hoạt mạng nơ ron nhân tạo .6 1.2 Mạng nơ ron tích chập 10 1.2.1 Khái niệm mạng nơ ron tích chập 10 1.2.2 Mô hình mạng nơ ron tích chập 11 1.2.3 Xây dựng mạng nơ ron tích chập 12 CHƯƠNG 2: XÂY DỰNG HỆ THỐNG 21 2.1: Xây dụng liệu .21 2.2: Sử dụng Mạng nơ-ron tích chập CNN 21 2.2.1: Kiến trúc mạng nơ-ron tích chập 21 2.2.2: Học chuyển giao tinh chỉnh mơ hình huấn luyện 23 2.2.3: Mạng huấn luyện AlexNet 24 2.3: Các bước chạy mơ hình huấn luyện Google Colab .25 CHƯƠNG 3: KẾT QUẢ THỬ NGHIỆM ĐÁNH GIÁ, 43 NHẬN XÉT VÀ KẾT LUẬN 43 3.1: Kết thực nghiệm .43 3.2: Đánh giá kết quả: .45 3.3: Kết luận 46 [Type text] CHƯƠNG 1: TỔNG QUAN VỀ MẠNG NƠ RON VÀ GIỚI THIỆU VỀ MẠNG NƠ RON TÍCH CHẬP 1.1 Nơ ron nhân tạo 1.1.1 Lịch sử nơ ron nhân tạo Vào năm 1943, nhà thần kinh học Warren McCulloch nhà toán học Walter Pitts viết sách cách mạng thần kinh hoạt động Và họ thực mô mạng thần kinh đơn giản mạch điện [9] Vào năm 1949, Donald Hebb viết sách Organization of Behavior Điểm nhấn mạng thần kinh sử dụng nhiều tăng cường Vào năm 1959, David Hubel Torsten Wiesel xuất sách Receptive fields of single neurons in the cat’s striate cortex, miêu tả phản ứng tế bào thần kinh thị giác loài mèo, cách loài mèo ghi nhớ nhận diện hình dạng kiến trúc vỏ não Hình 1.1 Hình ảnh thí nghiệm David Hubel Torsten Wiesel mèo [10] [Type text] Vào năm 1989, Yann LeCun áp dụng thuật toán học cho mạng nơ ron theo kiểu lan truyền ngược vào kiến trúc mạng nơ ron tích chập Fukushima Sau vài năm, LeCun cơng bố LeNet-5 [13] Có thể nói, LeNet-5 mạng nơ ron tích chập sơ khai nhất, nhiên dấu ấn tồn tới ngày nay, thấy thông qua số thành phần thiết yếu mà mạng nơ ron tích chập ngày sử dụng 1.1.2 Cấu tạo trình xử lý nơ ron sinh học Hình 1.2: Hình ảnh nơ ron sinh học [14] Một nơ ron gồm có: thân nơ ron, tua gai thần kinh, sợi trục thần kinh, đó:  Thân nơ ron: nơi xử lý tín hiệu đưa vào;  Tua gai thần kinh: nơi nhận xung điện vào nơ ron;  Sợi trục thần kinh: nơi đưa tín hiệu ngồi sau xử lý nơ ron;  Khớp thần kinh: vị trí nằm tua gai thần kinh sợi trục thần kinh, điểm liên kết đầu nơ ron với đầu vào nơ ron khác 1.1.3 Cấu tạo trình xử lý nơ ron nhân tạo [Type text] Dựa vào cấu tạo nơ ron sinh học, nhà khoa học nghiên cứu lập trình đưa kiến trúc nơ ron nhân tạo: Hình 1.3: Cơng thức nơ ron nhân tạo [41] Mạng nơ ron nhân tạo mơ tả đơn giản lại sau: ̉h Trong đó: Hình 1.4: Hình ảnh nơ ron nhân tạo [Type text] Danh sách đầu vào: Là thuộc tính đầu vào nơ ron Số lượng thuộc tính đầu vào thường nhiều một, liệu thô đầu vào thường vector nhiều chiều, nhiều nơ ron tầng trước kết nối tới nơ ron tầng sau  Trọng số liên kết: Các liên kết thể độ mạnh yếu qua giá trị gọi trọng số liên kết Kết hơp với đầu truyền, tín hiệu đến nơ ron nhân tạo khác tính ; Hình 1.5: Hình ảnh vị trí thiên lệch thêm vào thực tế  Hàm tổng: Tổng tích đầu vào với trọng số liên kết mơ khớp kết nối Sau qua hàm tính tổng để tính giá trị trước đưa vào hàm truyền;  Thiên lệch (b): Độ lệch đưa vào sau khi tính tốn xong hàm tổng, tạo giá trị cuối trước đưa vào hàm truyền Mục đích việc thêm vào thiên lệch nhằm dịch chuyển chức hàm kích hoạt sang trái phải, giúp ích mạng huấn luyện Hình ảnh vị trí thiên lệch thêm vào mạng nơ ron thực tế [Type text] Hình ảnh huấn luyện có khơng có thiên lệch: Hình 1.6: Kết hàm sigmoid với trọng số đầu vào khác khơng có thiên lệch Hình 1.7: Kết hàm sigmoid với trọng số thiên lệch khác Hàm kích hoạt (Activation functions): Hàm sử dụng để tính tốn giá trị đầu dựa vào giá trị hàm Tổng 1.1.4 Các mơ hình hàm kích hoạt mạng nơ ron nhân tạo 1.1.4.1 Hàm Sigmod [Type text]  Biểu diễn hàm:  Đạo hàm hàm: Hàm Sigmoid sử dụng ngưỡng nằm khoảng (0, 1) Do đó, hàm sử dụng nhiều cho mơ hình dự đốn xác suất đầu ra, tức kết tồn khoảng từ đến 1: đầu vào số dương lớn, đầu hàm sigmoid gần Khi khó nhỏ 0, đầu gần Tuy nhiên, việc tối ưu hàm khăn, nguyên nhân giá trị đầu vào hàm số lớn, đầu hàm đầu xấp xỉ 0, nên tốc độ hội tụ chậm Hình 1.8: Đồ thị hàm Sigmoid 1.1.4.2 Hàm TanH  Biểu diễn hàm:  Đạo hàm hàm: [Type text] Hàm TanH sử dụng đầu hàm nằm khoảng thích hợp với mơ hình đầu có ba giá trị: âm, trung tính (0) dương Chúng ta thấy rõ điều hình minh họa Hình 1.9: Đồ thị hàm TanH 1.1.4.3 Hàm tuyến tính  Biểu diễn hàm:  Đạo hàm hàm: Hàm tuyến tính áp dụng thao tác nhận dạng liệu với liệu đầu tỷ lệ thuận với liệu đầu vào ,