Nhận diện loài vi khuẩn qua ảnh hiển vi quang học bằng mạng trí tuệ nhân tạo

BỘ Y TẾ TRƯỜNG ĐẠI HỌC DƯỢC HÀ NỘI *** LÊ TRƯỜNG SƠN NHẬN DIỆN LOÀI VI KHUẨN QUA ẢNH HIỂN VI QUANG HỌC BẰNG MẠNG TRÍ TUỆ NHÂN TẠO KHĨA LUẬN TỐT NGHIỆP DƯỢC SĨ HÀ NỘI – 2020 BỘ Y TẾ TRƯỜNG ĐẠI HỌC DƯỢC HÀ NỘI -*** - LÊ TRƯỜNG SƠN MÃ SINH VIÊN: 1501430 NHẬN DIỆN LOÀI VI KHUẨN QUA ẢNH HIỂN VI QUANG HỌC BẰNG MẠNG TRÍ TUỆ NHÂN TẠO KHĨA LUẬN TỐT NGHIỆP DƯỢC SĨ Người hướng dẫn: TS Đỗ Ngọc Quang Nơi thực hiện: Bộ môn Vi sinh & Sinh học – Trường Đại Học Dược Hà Nội HÀ NỘI – 2020 LỜI CẢM ƠN Lời đầu tiên, xin gửi lời cảm ơn chân thành sâu sắc đến Thầy giáo hướng dẫn – TS Đỗ Ngọc Quang - Bộ môn Vi sinh & Sinh học - Trường Đại học Dược Hà Nội tận tình hướng dẫn, bảo, tạo điều kiện học tập, nghiên cứu để tơi hồn thành tốt khóa luận tốt nghiệp Điều đặc biệt mà trân trọng nhiệt tình, nhẫn nại dành thời gian hướng dẫn, bảo, đóng góp, trả lời thắc mắc sửa chữa vấn đề nhỏ nhặt công việc Thầy bận rộn Tôi xin cảm ơn giảng viên, giáo vụ môn Vi sinh & Sinh học – Đại học Dược Hà Nội quan tâm giúp đỡ tạo điều kiện tốt cho tơi thực khóa luận thành cơng Đồng thời, tơi xin cảm ơn em Hồng Minh Huyền – thành viên nhóm nghiên cứu, hỗ trợ tơi nhiều q trình thực hiên khố luận Cuối xin gửi lời biết ơn sâu sắc đến bố mẹ, gia đình bạn bè thân thiết bên suốt quãng thời gian đại học, nguồn động viên tinh thần quý giá giúp tơi hồn thành luận văn Hà Nội, ngày 22 tháng năm 2020 Sinh viên Lê Trường Sơn MỤC LỤC Trang bìa Trang bìa phụ Lời cảm ơn MỤC LỤC DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT DANH MỤC CÁC BẢNG DANH MỤC CÁC HÌNH VẼ VÀ ĐỒ THỊ ĐẶT VẤN ĐỀ CHƯƠNG TỔNG QUAN 1.1 Giới thiệu vi khuẩn phương pháp phân loại vi khuẩn 1.1.1 Vi khuẩn 1.1.1.1 Phân bố tự nhiên: 1.1.1.2 Hình thái: 1.1.2 Phương pháp phân loại 1.1.2.1 Phân loại kiểu hình 1.1.2.2 Phân loại kiểu gen 1.2 Giới thiệu mạng trí tuệ nhân tạo 1.2.1 Khái niệm ứng dụng 1.2.2 Các thành phần mạng trí tuệ nhân tạo 1.2.2.1 Perceptron 1.2.2.2 Cấu tạo hoạt động ANN 1.2.3 Một số dạng mạng trí tuệ nhân tạo 1.2.3.1 Mạng Single Layer Perceptron (SLP) 1.2.3.2 Mạng Multi-Layer Perceptron (MLP) 1.2.3.3 Mạng tích chập (Convolutional Neural Network, CNN) 10 1.2.3.4 Mạng hồi quy (Recurrent Neural Network, RNN) 11 1.2.4 Mạng tích chập 11 1.2.4.1 Lớp tích chập (convolutional layer, CONV) 11 1.2.4.2 Lớp POOL (pooling layer) 12 1.2.4.3 Mạng kết nối đầy đủ (fully-connected layer, FC hay lớp Dense) 12 1.2.5 Các bước xây dựng mạng trí tuệ nhân tạo 13 1.2.5.1 Xác định kích thước mạng trí tuệ nhân tạo 13 1.2.5.2 Thiếu khớp (underfitting) thừa khớp (overfitting) 13 CHƯƠNG VẬT LIỆU VÀ PHƯƠNG PHÁP NGHIÊN CỨU 15 2.1 Nguyên vật liệu 15 2.2 Thiết bị 16 2.3 Mơ hình nghiên cứu 17 2.3.1 Chuẩn bị liệu ảnh 17 2.3.2 Khảo sát cấu trúc mạng trí tuệ nhân tạo 17 2.3.3 Khảo sát tham số mạng trí tuệ nhân tạo 17 2.3.4 Khảo sát ảnh hưởng số lượng ảnh tập luyện 17 2.3.5 Xây dựng ANN nhận diện vi khuẩn cấp chi 18 2.3.6 Xây dựng ANN nhận diện vi khuẩn cấp loài 18 2.4 Phương pháp 18 2.4.1 Chuẩn bị liệu ảnh 18 2.4.2 Xây dựng mạng trí tuệ nhân tạo 19 2.4.2.1 Xây dựng ANN 20 2.4.2.2 Xây dựng CNN1 20 2.4.2.3 Xây dựng CNN2 21 2.4.2.4 Xây dựng CNN3 21 2.4.2.5 Xây dựng Model3 21 2.4.2.6 Xây dựng Model4 22 2.4.3 Cài đặt hàm mát, hàm tối ưu hoá, hàm đánh giá 23 2.4.4 Tập luyện đánh giá mạng ANN 23 2.4.5 Điều chỉnh tốc độ học số lượng lọc 23 CHƯƠNG KẾT QUẢ NGHIÊN CỨU VÀ BÀN LUẬN 25 3.1 Kết xử lý liệu ảnh 25 3.2 Kết khảo sát kiến trúc mạng trí tuệ nhân tạo 28 3.3 Kết khảo sát tham số mạng trí tuệ nhân tạo 30 3.3.1 Khảo sát số lượng lọc lớp Conv2D 31 3.3.2 Khảo sát tốc độ học 32 3.4 Kết khảo sát ảnh hưởng số lượng ảnh tập luyện 33 3.5 Mạng tri tuệ nhân tạo có khả nhận diện chi vi khuẩn 34 3.6 Mạng trí tuệ nhân tạo có khả nhận diện lồi vi khuẩn 36 CHƯƠNG KẾT LUẬN VÀ ĐỀ XUẤT 39 4.1 Kết luận 39 4.2 Đề xuất 39 TÀI LIỆU THAM KHẢO DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ CÁI VIẾT TẮT AFB trực khuẩn bền vững với acid (Acid Fast Bacillus) ANN Mạng trí tuệ nhân tạo (Artificial Neural Network) CNN Mạng tích chập (Convolutional Neural Network) CONV/Conv2D Lớp tích chập/ Lớp tích chập chiều (Convolutional Layer) DIBaS Bộ ảnh chụp hiển vi quang học tiêu nhuộm Gram loài vi khuẩn (Digital Image of Bacterial Species) FC Lớp kết nối đầy đủ (Fully – connected layer) GAP Lớp tổng hợp trung bình tồn cục (Global Avergrage Pooling Layer) GD Thuật toán Giảm Gradient (Gradient Descent) MAXPOOL Lớp tổng hợp cực đại (Max Pooling layer) MLP Mạng trí tuệ nhân tạo nhiều lớp (Multilayer Perceptron) NLP Xử lý ngôn ngữ tự nhiên (Natural Language Processing) POOL Lớp tổng hợp (Pooling layer) RNN Mạng hồi quy (Recurrent Neural Network) SLP Mạng trí tuệ nhân tạo lớp (Single Layer Perceptron) DANH MỤC CÁC BẢNG Bảng 2.1 Số lượng ảnh vi khuẩn Bảng 2.2 Số lượng lọc/neuron lớp kiểu kiến trúc ANN Bảng 3.1 Độ xác q trình luyện tập kiểm chứng mạng ANN CNN1, CNN2 CNN3 Bảng 3.2 Khả nhận diện ảnh kiểm chứng CNN3 thay đổi tham số số lớp lọc lớp Conv2D 15 20 29 31 DANH MỤC CÁC HÌNH VẼ VÀ ĐỒ THỊ Hình 1.1 Phương pháp nhận diện vi khuẩn Hình 1.2 Hình mơ hoạt động perceptron Hình 1.3 Đồ thị hàm Sigmoid Hình 1.4 Mơ hình ví dụ ANN Hình 1.5 Mơ hình hoạt động mạng MLP SLP 10 Hình 1.6 Mơ hình hoạt động mạng CNN RNN 10 Hình 1.7 Mơ hình hoạt động lớp tích chập CONV 11 Hình 1.8 Ví dụ cách hoạt động lớp MAXPOOL 12 Hình 1.9 Các tượng thiếu khớp (a), khớp (b) thừa khớp (c) trình học mạng trí tuệ nhân tạo 14 Hình 2.1 Mơ hình nghiên cứu 17 Hình 3.1 Dữ liệu ảnh lồi vi khuẩn DIBaS 25 Hình 3.2 Ảnh gây nhiễu mật độ tế bào thấp có kích thước nhỏ 58KB Hình 3.3 Ảnh gây nhiễu mật độ tế bào cao Hình 3.4 Bộ ảnh khảo sát điều kiện gồm 2000 ảnh loài vi khuẩn Escherichia coli Staphylococcus aureus 26 26 27 Hình 3.5 Bộ ảnh phân loại cấp chi gồm 5000 ảnh chi vi khuẩn Clostridium sp., Lactobacillus sp., Proteus sp., Pseudomonas sp 27 Staphylococcus sp Hình 3.6 Bộ ảnh phân loại cấp loài gồm 3500 ảnh loài vi khuẩn thuộc chi Lactobacillus: L crispatus, L rhamnosus, L delbrueckii, L jehnsenii 28 L gasseri Hình 3.7 Kiến trúc tham số mạng neuron ANN, CNN1, CNN2, CNN3 28 Hình 3.8 Khả nhận diện mạng neuron ANN, CNN1, CNN2, CNN3 ảnh tập luyện (a) ảnh kiểm chứng (b) Hình 3.9 Khả nhận diện ảnh kiểm chứng mạng CNN3 thay đổi tham số số lượng lọc lớp Conv2D Hình 3.10 Khả nhận diện ảnh kiểm chứng mạng neuron CNN3 sử dụng tham số tốc độ học khác 30 32 33 Hình 3.11 Ảnh hưởng số lượng ảnh luyện tập lên độ xác mạng CNN3 phân loại ảnh kiểm chứng hai loài vi khuẩn E coli 34 S aureus với 1000, 700 500 ảnh lồi Hình 3.12 Dữ liệu ảnh hai chi vi khuẩn Proteus sp., Pseudomonas sp., Lactobacillus sp 35 Hình 3.13 Xây dựng tập luyện mạng neuron Model3 (a) kiến trúc mạng neuron Model3, (b) khả nhận diện ảnh tập luyện ảnh kiểm 36 chứng, (c) khả nhận diện chi vi khuẩn Hình 3.14 Xây dựng luyện tập mạng Model4 (a) kiến trúc mạng neuron Model4, (b) khả nhận diện ảnh tập luyện ảnh kiểm chứng, (c) khả nhận diện chi vi khuẩn 38 3.3.1 Khảo sát số lượng lọc lớp Conv2D Mạng CNN3 luyện tập với Bộ ảnh khảo sát điều kiện, thực 10 chu kỳ, khả nhận diện đánh giá tỷ lệ phân loại ảnh kiểm chứng Kết khảo sát cho thấy số lượng lọc 16, 64, 128 lớp Conv2D cho tỷ lệ phân loại 80%, số lượng lọc 4, 8, 32, 256 70% (Hình 3.9) (Bảng 3.2) Trong thí nghiệm này, tỷ lệ phân loại không tỷ lệ thuận với việc tăng số lượng lọc, mạng CNN3 với lớp Conv2D chứa 256 lớp lọc phân loại tối đa 70% ảnh kiểm chứng Bảng 3.2 Khả nhận diện ảnh kiểm chứng CNN3 thay đổi tham số số lớp lọc lớp Conv2D Chu kì 10 50% 50% 50% 50% 50% 50% 50% 52% 53% 61% 50% 50% 50% 50% 50% 50% 50% 50% 50% 50% 16 50% 50% 50% 50% 50% 55% 67% 72% 93% 68% Số lớp lọc 32 50% 50% 50% 50% 52% 61% 67% 58% 50% 50% 31 64 50% 50% 50% 51% 80% 63% 80% 50% 50% 50% 128 50% 50% 50% 50% 50% 50% 80% 92% 79% 56% 256 50% 50% 50% 56% 50% 70% 50% 50% 50% 50% Hình 3.9 Khả nhận diện ảnh kiểm chứng mạng CNN3 thay đổi tham số số lượng lọc lớp Conv2D 3.3.2 Khảo sát tốc độ học Mạng CNN3 luyện tập với Bộ ảnh khảo sát điều kiện, khả nhận diện đánh giá độ xác phân loại ảnh kiểm chứng Kết thúc 50 chu kỳ luyện tập với ba tốc độ học 10-3, 10-4, 10-5, mạng neuron cho tỷ lệ phân loại khoảng 80%, khả phân loại hình thành sau khoảng 20 chu kỳ đầu luyện tập (Hình 3.10) Mạng neuron tập luyện với tốc độ học 10-5 cho khả phân loại ổn định so với hai tốc độ lại Trong 30 chu kỳ cuối, tỷ lệ phân loại tốc độ 10-5 dao động với độ lệch chuẩn 2% tốc độ 10-3 10-4 14 15% Đáng ý luyện tập tốc độ 10-3 10-4, mạng neuron đạt tỷ lệ phân loại cao 98% so với mức 75,8% tốc độ 10-5 32 Hình 3.10 Khả nhận diện ảnh kiểm chứng mạng neuron CNN3 sử dụng tham số tốc độ học khác 3.4 Kết khảo sát ảnh hưởng số lượng ảnh tập luyện Mạng CNN3 luyện tập với ảnh chụp tiêu hai vi khuẩn Escherichia coli Staphylococcus aureus Số lượng ảnh cho vi khuẩn khảo sát thí nghiệm 500; 700; 1000 Mạng CNN3 luyện tập vòng 50 chu kỳ với tốc độ học 10-5, thu kết Hình 3.11 Mạng CNN3 cho kết độ xác ổn định cao (99%) luyện tập với liệu ảnh cỡ 500 Khi số lượng sample cho vi khuẩn tăng lên, độ xác giảm dần xuống cịn khoảng 90% với cỡ mẫu 700 ảnh/vi khuẩn 80% với cỡ mẫu 1000 ảnh/vi khuẩn Tuy nhiên, với cỡ mẫu 700 1000 ảnh/vi khuẩn, mạng CNN3 hình thành khả phân loại sau 20 chu kỳ đầu luyện tập cỡ mẫu 500 ảnh/vi khuẩn, mạng CNN3 phải 30 chu kỳ luyện tập có khả phân loại 70% Việc tăng số lượng ảnh luyện tập làm giảm độ đồng ảnh đưa vào luyện tập tăng số lượng ảnh chứa thơng tin phân loại gây khó khăn cho việc nhận diện vi khuẩn mạng CNN3 Mạng CNN3 cần cải tiến nâng cấp để phù hợp với liệu ảnh vi khuẩn đa dạng thực tế 33 Hình 3.11 Ảnh hưởng số lượng ảnh luyện tập lên độ xác mạng CNN3 phân loại ảnh kiểm chứng hai loài vi khuẩn E coli S aureus với 1000, 700 500 ảnh loài 3.5 Mạng tri tuệ nhân tạo có khả nhận diện chi vi khuẩn Từ khảo sát kiến trúc, tham số qua số thử nghiệm, mạng tích chập hai chiều Model3 thiết kế với kiến trúc gồm: (i) lớp Conv2D, lớp có số lọc tương ứng 16, 32, 64, 128; (ii) lớp Dense với số neuron 256, 128, Các tham số mạng Model3 thể Hình 3.13a Mạng neuron tập luyện đánh giá với Bộ ảnh phân loại cấp chi Số chu kỳ tập luyện 50, tốc độ học 10-5, tổng thời gian tập luyện 75 phút Kết cho thấy sau 50 chu kỳ, mạng neuron phân loại khoảng 80% ảnh tập luyện ảnh kiểm chứng (Hình 3.13b) Đánh giá chi tiết cho loại vi khuẩn cho thấy trừ Lactobacillus sp., bốn chi vi khuẩn lại có tỷ lệ phân loại 96% (Hình 3.13c) Như vậy, mạng Model3 có khả phân loại tổng số chi vi khuẩn thử nghiệm, độ xác trung bình phân loại chi vi khuẩn 98,8% Kết thử nghiệm ảnh đại diện chi vi khuẩn cho thấy mạng Model3 có khả phân biệt vi khuẩn có ảnh chụp tiêu hiển vi quang học giống Proteus sp Pseudomonas sp (Hình 3.12); tỷ lệ phân loại trung 34 bình đạt 98,8%, thấp không nhiều so với mức 99,5% nghiên cứu Zielinski cộng số lượng chi vi khuẩn thử nghiệm [46] Trong nghiên cứu Model3 không nhận diện Lactobacillus sp Đánh giá chất lượng ảnh chụp cho thấy mật độ tế bào dày (Hình 3.12) ngun nhân khiến Model3 khả nhận diện Hiện tượng phản ánh vai trò quan trọng việc lựa chọn mẫu tập luyện Model3 nói riêng mạng neuron nhân tạo nói chung [43] Proteus sp Pseudomona s sp Lactobacillu s sp Hình 3.12 Dữ liệu ảnh hai chi vi khuẩn Proteus sp., Pseudomonas sp., Lactobacillus sp 35 Hình 3.13 Xây dựng tập luyện mạng neuron Model3 (a) kiến trúc mạng neuron Model3, (b) khả nhận diện ảnh tập luyện ảnh kiểm chứng, (c) khả nhận diện chi vi khuẩn 3.6 Mạng trí tuệ nhân tạo có khả nhận diện lồi vi khuẩn Mạng Model4 (Hình 3.14a) có khả nhận diện loài vi khuẩn với cấu trúc gồm (i) lớp Conv2D, lớp có số lọc tương ứng 16, 32, 64, 128; (ii) lớp Dense với số neuron 128, 64, Mạng trí tuệ nhân tạo tập luyện 36 đánh giá với Bộ ảnh phân loại cấp lồi gồm 3500 ảnh Số chu kì luyện tập 75, tốc độ học 10-5, tổng thời gian luyện tập 12 phút Kết thí nghiệm cho thấy, độ xác ảnh luyện tập ảnh kiểm chứng 88% 96% (Hình 3.14b), với ảnh thử kết thu 89% Đánh giá chi tiết cho loài vi khuẩn cho thấy, độ xác nhận diễn lồi vi khuẩn thuộc chi Lactobacillus sp mạng Model4 84%, đặc biệt độ xác lồi Lactobacillus rhamnosus lên đến 100% (Hình 3.14c) Mạng Model3 Model4 có kiến trúc tích chập thiết kế cho nhận diện ảnh vi sinh vật Mạng gồm lớp neuron, nhiều so với hàng chục đến hàng trăm lớp mạng neuron lớn VGG, Inceptron, Resnet, v.v [36], [39], [15] Thiết kế đơn giản giúp cho việc tập luyện mạng Model3 Model4 thực máy tính cá nhân, thời gian tập luyện ngắn tính giờ; điều khác mạng neuron Resnet phải tập luyện hệ thống máy tính cơng suất lớn thời gian tập luyện tính ngày [15] Kết thí nghiệm Bộ ảnh phân loại cấp loài loài vi khuẩn thuộc chi Lactobacillus sp cho thấy mạng Model4 có khả phân biệt lồi vi khuẩn với độ xác cao ( từ 84% đến 100%), cao mức 70% phân loại lồi vi khuẩn cơng bố Ferdous Wahid cộng [45] Hơn nữa, khả nhận diện ảnh kiểm chứng mạng Model4 lên đến 96%, cao mức 81,8% độ xác phân loại N A Mohamad cộng [25] 74,78% điểm hội tụ V Vijaykumar cộng [44] Do đó, thu kết đạt yêu cầu mạng trí tuệ nhân tạo Model4 37 Hình 3.14 Xây dựng luyện tập mạng Model4 (a) kiến trúc mạng neuron Model4, (b) khả nhận diện ảnh tập luyện ảnh kiểm chứng, (c) khả nhận diện chi vi khuẩn 38 CHƯƠNG KẾT LUẬN VÀ ĐỀ XUẤT 4.1 Kết luận Kết khảo sát kiến trúc mạng cho thấy, mạng neuron (CNN3) gồm nhiều lớp tích chập kết hợp với lớp giảm chiều lớp kết nối đầy đủ phù hợp cho việc nhận diện ảnh vi khuẩn Mạng neuron học với tốc độ 1x10-5 có độ ổn định 1x10-3 1x10-4 Số lượng lọc lớp tích chập 128 đủ để mạng neuron phân tích ảnh vi khuẩn Số lượng ảnh 500 cho loài vi khuẩn đủ để tập luyện mạng neuron Các tham số cho phép mạng neuron đạt độ xác 70% ảnh kiểm chứng Hai mạng neuron đề xuất để phân loại gọi tên Model Model4 Sau tập luyện, mạng Model3 với kiến trúc gồm (i) lớp Conv2D, lớp có số lọc tương ứng 16, 32, 64, 128; (ii) lớp Dense với số neuron 256, 128, có khả nhận diện số chi vi khuẩn (Clostridium sp., Lactobacillus sp., Proteus sp., Pseudomonas sp., Staphylococcus sp.) Trong đó, mạng Model với kiến trúc gồm (i) lớp Conv2D, lớp có số lọc tương ứng 16, 32, 64, 128; (ii) lớp Dense với số neuron 128, 64, có khả nhận diện loài vi khuẩn thuộc chi Lactobacillus sp Cả hai mạng Model3 Model4 đạt độ xác 80% ảnh kiểm chứng Thời gian tập luyện khoảng 75 đến 192 phút 4.2 Đề xuất Thông qua việc thực đề tài này, nghiên cứu sâu áp dụng số đề xuất sau: Thu thập thêm ảnh chụp hiển vi quang học tiêu nhuộm Gram vi khuẩn giúp mở rộng liệu ảnh số lượng loài vi khuẩn số lượng ảnh loài vi khuẩn Sử dụng nhiều biện pháp xử lý ảnh tiền luyện tập khác chuyển đổi ảnh màu sang ảnh đen trắng, lật ảnh, đối xứng ảnh,… để tăng chất lượng số lượng liệu ảnh 39 Áp dụng phương pháp “Học chuyển tiếp” (Tranfer learning) để xây dựng mạng trí tuệ nhân tạo dựa mạng trí tuệ nhân tạo lớn nghiên cứu Alexnet, VGG, Inceptron, Resnet, v.v giúp cải thiện độ xác phân loại vi khuẩn tiết kiệm thời gian luyện tập 40 TÀI LIỆU THAM KHẢO Aliper Alexander, Plis Sergey, et al (2016), "Deep Learning Applications for Predicting Pharmacological Properties of Drugs and Drug Repurposing Using Transcriptomic Data", Molecular pharmaceutics, 13(7), pp 2524-2530 Aurélien Géron (2017), Hands-On Machine Learning with Scikit-Learn and TensorFlow, O'Reilly Media, Inc Basheer Imad, Hajmeer M N (2001), "Artificial Neural Networks: Fundamentals, Computing, Design, and Application", Journal of microbiological methods, 43, pp 3-31 Bishop C (2006), Pattern Recognition and Machine Learning, SpringerVerlag New York Carneiro T., NóBrega R V Medeiros Da, et al (2018), "Performance Analysis of Google Colaboratory as a Tool for Accelerating Deep Learning Applications", IEEE Access, 6, pp 61677-61685 Chollet Franỗois, keras 2015 Demuth Howard B., Beale Mark H., et al (2014), Neural Network Design, Martin Hagan Esteva Andre, Kuprel Brett, et al (2017), "Dermatologist-level classification of skin cancer with deep neural networks", Nature, 542(7639), pp 115-118 Fakruddin Md, Mannan Khanjada Shahnewaj Bin, et al (2013), "Viable but nonculturable bacteria: food safety and public health perspective", ISRN microbiology, 2013, pp 703813-703813 10 Fausett Laurene (1994), Fundamentals of neural networks: architectures, algorithms, and applications, Prentice-Hall, Inc 11 Fredrickson James K., Zachara John M., et al (2004), "Geomicrobiology of high-level nuclear waste-contaminated vadose sediments at the hanford site, washington state", Applied and environmental microbiology, 70(7), pp 42304241 12 Goodfellow I., Bengio Y., et al (2016), Deep Learning, MIT Press 13 Graupe Daniel (2007), Principles of Artificial Neural Networks, WORLD SCIENTIFIC 14 Gurney K (1997), An Introduction to Neural Networks, UCL Press, London 15 He Kaiming, Zhang Xiangyu, et al (2016), Deep residual learning for image recognition, Proceedings of the IEEE conference on computer vision and pattern recognition,pp 770-778 16 Hinton Geoffrey E, Srivastava Nitish, et al (2012), "Improving neural networks by preventing co-adaptation of feature detectors", arXiv preprint arXiv:1207.0580 17 Hu ShanShan, Zhang Chenglin, et al (2019), "Predicting drug-target interactions from drug structure and protein sequence using novel convolutional neural networks", BMC Bioinformatics, 20(25), pp 689 18 Jigneshkumar L Patel, Ramesh K Goyal (2007), "Applications of Artificial Neural Networks in Medical Science", Current Clinical Pharmacology, 2(3), pp 217-226 19 Kingma Diederik P, Ba Jimmy (2014), "Adam: A method for stochastic optimization", arXiv preprint arXiv:1412.6980 20 Krizhevsky Alex, Sutskever Ilya, et al (2012), "ImageNet Classification with Deep Convolutional Neural Networks", Neural Information Processing Systems, 25 21 Maas Andrew L, Hannun Awni Y, et al (2013), Rectifier nonlinearities improve neural network acoustic models, Proc icml,pp 22 Mahamkali Naveenkumar, Vadivel A (2015), OpenCV for Computer Vision Applications 23 McKinney Scott Mayer, Sieniek Marcin, et al (2020), "International evaluation of an AI system for breast cancer screening", Nature, 577(7788), pp 89-94 24 Michael A.N (2015), Neural Networks and Deep Learning, Determination Press 25 Mohamad Noor Amaleena, Jusoh Noorain Awang, et al (2014), "Bacteria identification from microscopic morphology: a survey", International Journal on Soft Computing, Artificial Intelligence and Applications (IJSCAI), 3(1), pp 2319-1015 26 P.S Bisen, M Debnath, et al (2012), "Identification and Classification of Microbes", Microbes, Wiley - Blackwell, pp 275-337 27 Qi Min (1996), "18 Financial applications of Artificial Neural Networks", Handbook of Statistics, Elsevier, 14, pp 529-552 28 Rahutomo Reza, Gunawan Fergyanto (2019), "Design deep learning neural network for structural health monitoring", Journal of Theoretical and Applied Information Technology, 97, pp 1634-1643 29 Reese M G (2001), "Application of a time-delay neural network to promoter annotation in the Drosophila melanogaster genome", Computers & chemistry, 26(1), pp 51-56 30 Rosasco Lorenzo, Vito Ernesto De, et al (2004), "Are Loss Functions All the Same?", Neural Computation, 16(5), pp 1063-1076 31 Rosenblatt F., The Perceptron: A Perceiving and Recognizing Automaton 1957, Cornell Aeronautical Laboratory 32 Rost B., Sander C (1994), "Combining evolutionary information and neural networks to predict protein secondary structure", Proteins, 19(1), pp 55-72 33 Salton M.R.J, Kim K.S (1996), "Classification", Medical Microbiology, S Baron, University of Texas Medical Branch at Galveston, Galveston (TX) 34 Salton M.R.J, Kim K.S (1996), "Structure", Medical Microbiology, S Baron, University of Texas Medical Branch at Galveston, Galveston (TX) 35 Samarasinghe S (2006), Neural Networks for Applied Sciences and Engineering, Auerbach 36 Simonyan Karen, Zisserman Andrew (2014), "Very deep convolutional networks for large-scale image recognition", arXiv preprint arXiv:1409.1556 37 Smith Kenneth P., Kang Anthony D., et al (2018), "Automated Interpretation of Blood Culture Gram Stains by Use of a Deep Convolutional Neural Network", Journal of Clinical Microbiology, 56(3), pp e01521-17 38 Srivastava Nitish, Hinton Geoffrey, et al (2014), "Dropout: a simple way to prevent neural networks from overfitting", The journal of machine learning research, 15(1), pp 1929-1958 39 Szegedy Christian, Liu Wei, et al (2015), Going deeper with convolutions, Proceedings of the IEEE conference on computer vision and pattern recognition,pp 1-9 40 Taheri-Araghi Sattar, Bradde Serena, et al (2015), "Cell-Size Control and Homeostasis in Bacteria", Current Biology, 25(3), pp 385-391 41 Talo Muhammed (2019), "An Automated Deep Learning Approach for Bacterial Image Classification", arXiv preprint arXiv:1912.08765 42 Tiwari R P., Tiwari Dileep, et al (2005), "Glycolipids of Mycobacterium tuberculosis strain H37Rv are potential serological markers for diagnosis of active tuberculosis", Clinical and diagnostic laboratory immunology, 12(3), pp 465-473 43 Torralba A., Fergus R., et al (2008), "80 Million Tiny Images: A Large Data Set for Nonparametric Object and Scene Recognition", IEEE Transactions on Pattern Analysis and Machine Intelligence, 30(11), pp 1958-1970 44 Vijaykumar Venkatesh (2016), "Classifying Bacterial Species using Computer Vision and Machine Learning", International Journal of Computer Applications, 151(8), pp 23-26 45 Wahid M F., Ahmed T., et al (2018), Classification of Microscopic Images of Bacteria Using Deep Convolutional Neural Network, 2018 10th International Conference (ICECE),pp 217-220 on Electrical and Computer Engineering 46 Zielinski B., Plichta A., et al (2017), "Deep learning approach to bacterial colony classification", PLoS One, 12(9), pp e0184554 ... mạng neuron sẵn có Để góp phần tạo nên mạng neuron nhân tạo dễ vận hành có tính ứng dụng cao vi? ??c nhận diện vi khuẩn, thực đề tài ? ?Nhận diện loài vi khuẩn qua ảnh hiển vi quang học mạng trí tuệ. ..BỘ Y TẾ TRƯỜNG ĐẠI HỌC DƯỢC HÀ NỘI -*** - LÊ TRƯỜNG SƠN MÃ SINH VI? ?N: 1501430 NHẬN DIỆN LOÀI VI KHUẨN QUA ẢNH HIỂN VI QUANG HỌC BẰNG MẠNG TRÍ TUỆ NHÂN TẠO KHÓA LUẬN TỐT NGHIỆP DƯỢC... luyện mạng neuron Model3 (a) kiến trúc mạng neuron Model3, (b) khả nhận diện ảnh tập luyện ảnh kiểm chứng, (c) khả nhận diện chi vi khuẩn 3.6 Mạng trí tuệ nhân tạo có khả nhận diện lồi vi khuẩn Mạng