MỞ ĐẦU ......................................................................................................................... 1 NỘI DUNG CHÍNH ...................................................................................................... 2 CHƯƠNG 1: KIẾN TRÚC DEEP NEURAL NETWORK (DNN) ........................ 2 1.1. Khái niệm về DNN ......................................................................................... 2 1.2. Giải thích về các lớp DNN ............................................................................. 2 1.3. Điều gì tạo nên một DNN ............................................................................... 5 1.4. Các loại DNN phổ biến .................................................................................. 8 CHƯƠNG 2: KIẾN TRÚC CÁC LOẠI DEEP NEURAL NETWORK (DNN) PHỔ BIẾN ................................................................................................................ 10 2.1. MultiLayer Perceptrons (MLP) ................................................................... 10 2.2. Convolutional Neural Networks (CNN) ....................................................... 11 2.3. Recurrent Neural Networks (RNN) .............................................................. 13 CHƯƠNG 3: ỨNG DỤNG DEEP NEURAL NETWORK (DNN) TRONG CÁC LĨNH VỰC HIỆN ĐẠI ............................................................................................ 17 3.1. Thị giác máy tính và nhận dạng hình ảnh ..................................................... 17 3.2. Phân tích cảm xúc ......................................................................................... 18 3.3. Phát hiện gian lận ......................................................................................... 18 3.4. Xử lý ngôn ngữ tự nhiên ............................................................................... 19 3.5. Dự đoán thị trường tài chính ........................................................................ 20 CHƯƠNG 4: THỬ NGHIỆM XÂY DỰNG KIẾN TRÚC DEEP NEURAL NETWORK (DNN) .................................................................................................. 22 KẾT LUẬN .................................................................................................................. 25
ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ - - Cung Văn Thắng Mã sinh viên: 21020939 KIẾN TRÚC DEEP NEURAL NETWORK VÀ ỨNG DỤNG TRONG CÁC LĨNH VỰC HIỆN ĐẠI BÁO CÁO MÔN HỌC CÁC VẤN ĐỀ HIỆN ĐẠI CỦA KỸ THUẬT MÁY TÍNH Ngành: Kỹ thuật Máy tính HÀ NỘI - 2023 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ - - Cung Văn Thắng Mã sinh viên: 21020939 KIẾN TRÚC DEEP NEURAL NETWORK VÀ ỨNG DỤNG TRONG CÁC LĨNH VỰC HIỆN ĐẠI BÁO CÁO MÔN HỌC CÁC VẤN ĐỀ HIỆN ĐẠI CỦA KỸ THUẬT MÁY TÍNH Ngành: Kỹ thuật Máy tính Cán hướng dẫn: TS Hoàng Gia Hưng Cán đồng hướng dẫn: TS Phạm Hùng Mạnh, ThS Trần Hiếu HÀ NỘI - 2023 LỜI CẢM ƠN Lời đầu tiên, em gửi lời cảm ơn chân thành đến Trường Đại học Công nghệ - Đại học Quốc gia Hà Nội đưa môn học “Các vấn đề đại Kỹ thuật máy tính” vào chương trình giảng dạy Đặc biệt chúng em xin gửi lời cảm ơn sâu sắc đến giảng viên mơn – TS Hồng Gia Hưng, thầy Hiếu thầy Mạnh truyền đạt kiến thức quý báu cho chúng em suốt thời gian học tập vừa qua Trong thời gian tham gia lớp học, em có thêm cho nhiều kiến thức bổ ích, đảm bảo cung cấp đầy đủ kiến thức, gắn liền với thực tế hành trang quan trọng cho chúng em làm việc Xin gửi lời tri ân em điều mà thầy cô dành cho sinh viên chúng em Mặc dù cố gắng hoàn thành tiểu luận với tất nỗ lực cố gắng thân, hạn chế kiến thức kinh nghiệm thực tiễn tiểu luận em khơng tránh khỏi thiếu sót nội dung hình thức Em mong nhận bảo góp ý thầy cô để giúp cho tiểu luận em thêm hoàn thiện LỜI CAM ĐOAN Em xin cam đoan: Tiểu luận “Kiến Trúc Deep Neural Network Ứng Dụng Trong Các Lĩnh Vực Hiện Đại” công trình nghiên cứu riêng em, khơng chép Những phần sử dụng tài liệu tham khảo tiểu luận nêu rõ phần tài liệu tham khảo Các số liệu, kết trình bày tiểu luận sử dụng trung thực Hà Nội, ngày tháng 12 năm 2023 Tác giả Cung Văn Thắng TĨM TẮT Trí tuệ nhân tạo (AI - Artificial Intelligence) đóng vai trị ngày quan trọng sống hàng ngày, phương thức quan trọng Mạng Neuron Sâu (DNN - Deep Neural Network) DNN hệ thống mơ hình hóa liệu dựa cấu trúc mạng neuron não người Giúp máy tính học hiểu thơng tin cách tự động Ngồi cịn đưa giải pháp sáng tạo ô tô tự hành, tài chính, nhiều lĩnh vực khác Với khả học từ liệu áp dụng kiến thức vào tình mới, DNN đóng vai trị quan trọng việc định hình tương lai trí tuệ nhân tạo ứng dụng xã hội Từ khóa: DNN – Deep Neural Network MỤC LỤC MỞ ĐẦU NỘI DUNG CHÍNH CHƯƠNG 1: KIẾN TRÚC DEEP NEURAL NETWORK (DNN) 1.1 Khái niệm DNN 1.2 Giải thích lớp DNN .2 1.3 Điều tạo nên DNN .5 1.4 Các loại DNN phổ biến CHƯƠNG 2: KIẾN TRÚC CÁC LOẠI DEEP NEURAL NETWORK (DNN) PHỔ BIẾN 10 2.1 Multi-Layer Perceptrons (MLP) 10 2.2 Convolutional Neural Networks (CNN) 11 2.3 Recurrent Neural Networks (RNN) 13 CHƯƠNG 3: ỨNG DỤNG DEEP NEURAL NETWORK (DNN) TRONG CÁC LĨNH VỰC HIỆN ĐẠI 17 3.1 Thị giác máy tính nhận dạng hình ảnh 17 3.2 Phân tích cảm xúc 18 3.3 Phát gian lận 18 3.4 Xử lý ngôn ngữ tự nhiên .19 3.5 Dự đoán thị trường tài 20 CHƯƠNG 4: THỬ NGHIỆM XÂY DỰNG KIẾN TRÚC DEEP NEURAL NETWORK (DNN) 22 KẾT LUẬN 25 DANH MỤC TỪ VIẾT TẮT STT Từ viết tắt Thuật ngữ DNN Deep Neural Network AI Artificial Intelligence MLP Multi-Layer Perceptrons CNN Convolutional Neural Networks RNN Recurrent Neural Networks ReLU Rectified Linear Unit LSTM Long Short-Term Memory DANH MỤC BẢNG BIỂU, SƠ ĐỒ Hình 1.1: Khái niệm Deep Neural Network Hình 1.2: Mối quan hệ đặc điểm đầu vào đầu Hình 1.3: Các lớp điển hình DNN Hình 1.4: Ví dụ phân biệt ngựa ngựa vằn DNN Hình 1.5: Kiến trúc sâu DNN Hình 1.6: Thiết lập trọng số DNN Hình 1.7: Quá trình Backpropagation (Lan truyền ngược) .7 Hình 1.8: Kích thước tập huấn luyện thời gian huấn luyện cho số DNN Hình 1.9: Mơ hình Multi-Layer Perceptron (MLP) DNN .8 Hình 1.10: Mơ hình Convolutional Neural Network (CNN) DNN .9 Hình 1.11: Mơ hình Recurrent Neural Network (RNN) DNN Hình 2.1: MLP hiển thị Layer[i - 1] đầu vào bên trái Layer[i] đầu bên phải 10 Hình 2.2: Bước đơn giản CNN 11 Hình 2.3: CNN hiển thị Feature Map đầu vào Layer[i - 1] bên trái, Feature Map đầu Layer[i] bên phải 12 Hình 2.4: Các LSTM kết nối với 14 Hình 2.5: Ơ LSTM chứa lần nhân ma trận-vector, lần nhân phần tử, lần cộng phần tử hàm phi tuyến 15 Hình 3.1: Ứng dụng nhận diện phương tiện giao thông 17 Hình 3.2: Ứng dụng xe ô tô tự lái 17 Hình 3.3: Ứng dụng nhận diện cảm xúc qua khuôn mặt .18 Hình 3.4: Ứng dụng việc phát lừa đảo Deep Fake .19 Hình 3.5: Ứng dụng tạo chat bot hỗ trợ khách hàng .20 Hình 3.6: Ứng dụng dự đoán giá cổ phiếu 21 Hình 4.1: Bài tốn phân loại hình ảnh chữ số viết tay từ tập liệu MNIST .24 MỞ ĐẦU Cuộc sống hàng ngày, đặc biệt nước có cơng nghệ tiên tiến, ngày phụ thuộc vào cơng nghệ Trí tuệ nhân tạo (AI) AI trở nên phổ biến rộng rãi nhiều lợi ích nó, mang lại tiến tích cực nhiều ngành cơng nghiệp khác Về chất, AI trở nên thiếu thời đại đại ngày Việc tự động học mẫu phức tạp thông qua nhận dạng liệu trở nên khả thi với trợ giúp Mạng lưới thần kinh sâu (DNN) Được phát triển phương pháp AI lấy cảm hứng từ não người, DNN đóng vai trị quan trọng việc hỗ trợ máy tính xử lý liệu hỗ trợ thực nhiệm vụ đa dạng Các phương pháp nhận dạng giọng nói chứng kiến tỷ lệ lỗi từ giảm đáng kể 30% nhờ triển khai thành công mạng lưới thần kinh sâu Thành công đánh dấu bước nhảy vọt lớn suốt hai thập kỷ qua! Nhận dạng hình ảnh hưởng lợi đáng kể từ công nghệ đột phá này, với tỷ lệ lỗi giảm từ 26% kể từ năm 2011 xuống mức ấn tượng 3,5% Tỷ lệ phần trăm vượt trội tỷ lệ 5% mà người nhận hình ảnh Sau nhiều lần tham khảo ý kiến thầy hướng dẫn TS Hoàng Gia Hùng, thầy Hiếu thầy Mạnh, đề tài nghiên cứu “Kiến Trúc Deep Neural Network Ứng Dụng Trong Các Lĩnh Vực Hiện Đại” chọn Mục tiêu kiểm tra chặt chẽ DNN, nêu bật vai trị quan trọng việc định hình tiến trí tuệ nhân tạo việc sử dụng rộng rãi xã hội đại Các kiến trúc DNN phổ biến MLP, CNN RNN trọng tâm nghiên cứu Tìm hiểu sâu vào cấu trúc chúng ứng dụng nhiều lĩnh vực y học, tài chính, xử lý hình ảnh, ngơn ngữ tự nhiên xe tự lái nơi DNN sử dụng thành công NỘI DUNG CHÍNH CHƯƠNG 1: KIẾN TRÚC DEEP NEURAL NETWORK (DNN) 1.1 Khái niệm DNN DNN loại mơ hình máy học trí tuệ nhân tạo xây dựng dựa kiến trúc tế bào thần kinh não người Nơ-ron nhân tạo sử dụng mạng nơron đơn giản tính tổng qua tập hợp tích trọng số tham số giá trị liệu, sau đưa qua hàm phi tuyến để xác định đầu Như thấy, nơ-ron nhân tạo có số lượng lớn kết nối đầu vào đầu Hình 1.1: Khái niệm Deep Neural Network Trong đó, “fan-in” số lượng kết nối đầu vào mà nơ-ron nhân tạo nhận, “fanout” số lượng kết nối đầu mà tạo Cả hai yếu tố quan trọng để hiểu cách mạng nơ-ron làm việc chúng có khả học xử lý thông tin cách mạnh mẽ Deep Neural Network (DNN) lĩnh vực quan trọng Deep Learning, nhánh trí tuệ nhân tạo (AI) tập trung vào việc xây dựng huấn luyện mơ hình máy học với kiến trúc mạng nơ-ron sâu 1.2 Giải thích lớp DNN Nếu số lượng Feature Map đầu vào đầu bước nhảy 1, lớp đơn mạng nơ-ron tích chập hai chiều tương đương với phép tính liên tục hai chiều Như thấy mạng nơ-ron tích chập (CNN) phức tạp so với Perceptrons Nhiều Lớp (MLP) Dưới tham số phương trình để tính trọng số thực phép tính: • 𝐷𝑖𝑚𝐹𝑀 [𝑖 − 1]: Kích thước Feature Map đầu vào (hình vng) • 𝐷𝑖𝑚𝐹𝑀[𝑖]: Kích thước Feature Map đầu (hình vng) • 𝐷𝑖𝑚𝑆𝑡𝑒𝑛[𝑖]: Kích thước stencil (hình vng) • 𝑁𝑢𝑚𝐹𝑀[𝑖 − 1]: Số lượng Feature Map đầu vào • 𝑁𝑢𝑚𝐹𝑀[𝑖]: Số lượng Feature Map đầu • Số lượng nơ-ron: 𝑁𝑢𝑚𝐹𝑀[𝑖] × 𝐷𝑖𝑚𝐹𝑀[𝑖]2 Hình 2.3: CNN hiển thị Feature Map đầu vào Layer[i - 1] bên trái, Feature Map đầu Layer[i] bên phải • Số lượng weights cho Feature Map đầu ra: [ 1] ì []2 ã Tng s weights trờn layer: 𝑁𝑢𝑚𝐹𝑀 [𝑖] × Số lượng weights đầu Feature Map • Số lượng operations cho Feature Map đầu ra: × 𝐷𝑖𝑚𝐹𝑀[𝑖]2 × Số lượng weights đầu Feature Map 12 • Tổng số operations lớp: 𝑁𝑢𝑚𝐹𝑀 [𝑖] × Số lượng operations cho Feature Map đầu = × 𝐷𝑖𝑚𝐹𝑀[𝑖]2 × 𝑁𝑢𝑚𝐹𝑀[𝑖] × Số lượng weights đầu Feature Map = × 𝐷𝑖𝑚𝐹𝑀[𝑖]2 × Tổng số weights trờn mi layer ã Operations/weights: ì []2 2.3 Recurrent Neural Networks (RNN) Loại thứ ba DNN RNN, phổ biến việc nhận dạng giọng nói dịch ngơn ngữ RNN thêm khả mơ hình trực tiếp đầu vào theo chuỗi cách thêm trạng thái vào mơ hình DNN để RNN ghi nhớ thông tin Điều tương tự khác biệt phần cứng logic kết hợp máy trạng thái Ví dụ, bạn học giới tính người đó, bạn muốn truyền để nhớ lại sau dịch từ Mỗi lớp RNN tập hợp tổng có trọng số đầu vào từ lớp trước trạng thái trước Trọng số tái sử dụng qua bước thời gian Bộ nhớ ngắn hạn dài (LSTM) loại RNN phổ biến LSTMs giải vấn đề mà RNN trước gặp phải, khả khơng thể ghi nhớ thông tin quan trọng lâu dài Khác với hai loại DNN khác, LSTM có thiết kế phân cấp LSTM bao gồm mơ-đun gọi cell Bạn xem cell mẫu mô-macro liên kết với để tạo mơ hình DNN đầy đủ, tương tự cách lớp MLP xếp để tạo mơ hình DNN hồn chỉnh 13 Hình 2.4: Các LSTM kết nối với Hình 2.4 cho thấy cách cell LSTM liên kết với Chúng kết nối từ trái sang phải, nối đầu cell vào đầu vào cell Chúng triển khai theo thời gian, chạy từ xuống Hình 2.4 Do đó, câu nhập vào từ lần lặp vòng lặp triển khai Thông tin nhớ dài hạn ngắn hạn mà đặt tên cho LSTM chuyển từ xuống từ lần lặp sang lần lặp 14 Hình 2.5: Ơ LSTM chứa lần nhân ma trận-vector, lần nhân phần tử, lần cộng phần tử hàm phi tuyến Hình 2.5 thể nội dung ô LSTM Như mong đợi từ Hình 2.4, đầu vào nằm bên trái, đầu bên phải, hai đầu vào nhớ phía hai đầu nhớ phía Mỗi ô thực năm lần nhân ma trận vector năm trọng số Phép nhân ma trận đầu vào giống MLP Hình 2.1 Ba phép nhân ma trận khác gọi cổng chúng điều khiển giới hạn lượng thơng tin từ nguồn chuyển đến đầu tiêu chuẩn đầu nhớ Lượng thông tin chuyển cho cổng đặt trọng số chúng Nếu trọng số chủ yếu giá trị không giá trị nhỏ, thơng tin truyền qua; ngược lại, chúng chủ yếu giá trị lớn, cổng cho phép hầu hết thơng tin lưu thông Ba cổng gọi cổng đầu vào, cổng đầu cổng quên Hai cổng lọc đầu vào đầu ra, cổng cuối xác định cần quên đường dẫn nhớ dài hạn 15 Đầu nhớ ngắn hạn phép nhân ma trận vector Trọng số Ngắn Hạn đầu ô Nhãn ngắn hạn áp dụng khơng sử dụng trực tiếp đầu vào ô Do đầu vào đầu ô LSTM kết nối với nhau, kích thước ba cặp đầu vào, đầu phải giống Nhìn vào bên ô, có đủ phụ thuộc để tất đầu vào đầu thường có kích thước giống Hãy giả sử chúng có kích thước giống nhau, gọi Dim Tuy nhiên, phép nhân ma trận vector khơng phải tất có kích thước giống Vectơ cho ba phép nhân ma trận cổng có kích thước × Dim, LSTM ghép tất ba đầu vào Vectơ cho phép nhân ma trận đầu vào × Dim, LSTM nối đầu vào với đầu vào nhớ ngắn hạn làm vectơ Vectơ cho phép nhân cuối × Dim, đầu Bây cuối tính tốn trọng số phép tốn: • Số lượng weights cho (cell): × (3 × 𝐷𝑖𝑚 × 𝐷𝑖𝑚) + (2 × 𝐷𝑖𝑚 × 𝐷𝑖𝑚) + (1 × 𝐷𝑖𝑚 × 𝐷𝑖𝑚) = 12 ì ã S lng operations cho nhân ma trận vector (cell): × Số lượng weights cho (cell) • Số lượng operations cho nhân phần tử ô phép cộng (các vector có kích thước đầu ra): ì ã Tng s operations cho mi ụ (5 nhân vector-matrix phép toán phần t): 24 ì + ì ã Operations/weights: ~2 16 CHƯƠNG 3: ỨNG DỤNG DEEP NEURAL NETWORK (DNN) TRONG CÁC LĨNH VỰC HIỆN ĐẠI 3.1 Thị giác máy tính nhận dạng hình ảnh Cơng dụng rộng rãi DNN cho phép máy tính phân biệt đối tượng khác mô tả ảnh Từ việc phát logo thương hiệu hình ảnh đăng mạng xã hội đến ứng dụng phức tạp xác định bệnh tật hình ảnh y tế, thị giác máy tính hỗ trợ DNN chứng tỏ tính hiệu nhiều khu vực Chưa kể khơng có DNN giới khơng xuất tơ tự lái Hình 3.1: Ứng dụng nhận diện phương tiện giao thơng Hình 3.2: Ứng dụng xe ô tô tự lái 17 3.2 Phân tích cảm xúc Phân tích cảm xúc dựa vào DNN để xử lý ngôn ngữ người nhằm xác định trích xuất số thơng tin định thông tin từ văn Điều đặc biệt hữu ích trường hợp cơng ty muốn hiểu cảm nhận khách hàng thương hiệu sản phẩm họ DNN phân tích cảm xúc khách hàng định dạng có cấu trúc không cấu trúc bao gồm đánh giá, nhận xét đăng Hình 3.3: Ứng dụng nhận diện cảm xúc qua khuôn mặt 3.3 Phát gian lận DNN ứng dụng rộng rãi lĩnh vực phát gian lận Cấu trúc nhiều lớp DNN có khả tìm mối quan hệ thực phức tạp tập liệu lớn phát tín hiệu dường vơ hình hoạt động gian lận xảy Do đó, ngành chăm sóc sức khỏe, Thương mại điện tử, dịch vụ tài ngành khác áp dụng mạng lưới thần kinh để xác minh hoạt động giao dịch, xác định yêu cầu bảo hiểm giả/trùng lặp, phát hành vi trộm cắp lừa đảo, v.v 18 Hình 3.4: Ứng dụng việc phát lừa đảo Deep Fake 3.4 Xử lý ngôn ngữ tự nhiên Deep Neural Network (DNN) xử lý ngơn ngữ tự nhiên (NLP) đóng vai trị quan trọng nhiều ứng dụng đại Chúng sử dụng để tạo mơ hình ngơn ngữ mạnh mẽ, giúp cải thiện khả hiểu tạo văn tự nhiên Cụ thể, DNN áp dụng lĩnh vực dịch máy, tổng hợp văn bản, phân loại ý kiến, tạo trợ lý ảo thông minh Siri Google Assistant Sức mạnh DNN nằm khả học từ liệu lớn, đặc biệt việc xử lý hiểu ngôn ngữ tự nhiên cách phức tạp linh hoạt 19 Hình 3.5: Ứng dụng tạo chat bot hỗ trợ khách hàng 3.5 Dự đốn thị trường tài Deep Neural Networks (DNN) chơi vai trò quan trọng lĩnh vực dự báo tài chính, mang lại nhiều ứng dụng hữu ích Chúng sử dụng để phân tích mơ hình ngơn ngữ dự đốn xu hướng thị trường tài chính, cung cấp thơng tin cần thiết cho định đầu tư DNN tích hợp vào hệ thống dự báo doanh số bán hàng thu nhập, giúp doanh nghiệp lập kế hoạch tài cách xác Sức mạnh DNN nằm khả học từ liệu lớn phức tạp, giúp cải thiện độ xác hiệu suất mơ hình dự báo lĩnh vực tài 20 Hình 3.6: Ứng dụng dự đốn giá cổ phiếu 21 CHƯƠNG 4: THỬ NGHIỆM XÂY DỰNG KIẾN TRÚC DEEP NEURAL NETWORK (DNN) Sử dụng kiến trúc Deep Neural Network (DNN) để giải toán phân loại hình ảnh chữ số viết tay từ tập liệu MNIST Sử dụng thư viện TensorFlow để xây dựng mơ hình DNN đơn giản với lớp Flatten, lớp ẩn với hàm kích hoạt ReLU, lớp đầu với hàm kích hoạt softmax 22 23 Hình 4.1: Bài tốn phân loại hình ảnh chữ số viết tay từ tập liệu MNIST Ví dụ mơ tả cách đơn giản minh họa cách DNN sử dụng để giải nhiệm vụ phân loại hình ảnh Đối với tốn phức tạp hơn, mơ hình DNN mở rộng tinh chỉnh để đạt hiệu suất cao 24 KẾT LUẬN Kiến trúc Deep Neural Network mang lại nhiều hội giải vấn đề phức tạp thị giác máy, nhận dạng hình ảnh, sử dụng nhiều xử lý ngôn ngữ tự nhiên, nhận diện cảm xúc dự báo thị trường tài Khả học biểu diễn tự động khả ứng dụng chúng vào y tế, ô tô tự lái, bảo mật nhiều lĩnh vực khiến DNN trở thành công cụ mạnh mẽ giới đại, tạo tiến đáng kể thay đổi cách tương tác với công nghệ Mặc dù DNN có hiệu suất cao, địi hỏi lượng lớn liệu để huấn luyện Thách thức đặt vấn đề quản lý liệu, đặc biệt tổ chức có giới hạn tài nguyên Sự nghiên cứu phát triển chìa khóa để nâng cao hiệu suất giải thách thức Các vấn đề tính minh bạch, an tồn đạo đức quản lý sử dụng DNN thách thức quan trọng cần phải đối mặt để đảm bảo phát triển bền vững cơng nghệ Điển hình giai đoạn gần với nhiều vụ lừa đảo chiếm đoạt tài sản mang quy mô lớn mang tên “Deep Fake” giả mạo khn mặt giọng nói người khác Cần phải quản lý rủi ro liên quan đến định mơ hình đảm bảo chúng không gây hậu tiêu cực tình thực tế 25 TÀI LIỆU THAM KHẢO [1] John L Hennessy & David A Patterson, D A (2018) Domain-Specific Architectures In Computer architecture: A quantitative approach (6th ed., pp 544-556) Morgan Kaufman [2] Viso AI “Deep Neural Network: The Popular Types (MLP, CNN and RNN) https://viso.ai/deep-learning/deep-neural-network-three-popular-types/ [3] AltexSoft “Deep Learning and the Future of Artificial Intelligence” https://www.altexsoft.com/blog/deep-learning/ [4] Al with Misa “[Lý Thuyết] Bài 15 Mạng thần kinh nhân tạo - Artificial Neural Network” https://aiwithmisa.com/2021/03/07/aml-bai15/ [5] Google Colab “Image Classification - MNIST” https://colab.research.google.com/drive/1AfxLvI1IzqaFk2IH9Zwpy5D4He54YSZA?u sp=sharing