NHẬN DIỆN BỆNH TRÊN LÁ DỰA TRÊN MẠNG NƠ RON TÍCH CHẬP

Nhận diện bệnh trên lá dựa trên công nghệ mạng nơ ron tích chập. Nhận diện bệnh của lá thông qua hình ảnh.

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC CÔNG NGHỆ TP HỒ CHÍ MINH VIỆN CƠNG NGHỆ VIỆT – NHẬT ĐỒ ÁN TỐT NGHIỆP NHẬN DIỆN BỆNH TRÊN LÁ DỰA TRÊN MẠNG NEURON TÍCH CHẬP Ngành: CƠNG NGHỆ THƠNG TIN Giảng viên hướng dẫn : TS Nguyễn Thị Hải Bình Sinh viên thực : Ngơ Tấn Đăng – 1811061595 Phạm Trần Đăng Khoa – 1811061631 Hồ Sĩ Quỳnh Đức – 1811062104 TP Hồ Chí Minh, 2022 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC CÔNG NGHỆ TP HỒ CHÍ MINH VIỆN CƠNG NGHỆ VIỆT – NHẬT ĐỒ ÁN TỐT NGHIỆP NHẬN DIỆN BỆNH TRÊN LÁ DỰA TRÊN MẠNG NEURON TÍCH CHẬP Ngành: CƠNG NGHỆ THƠNG TIN Giảng viên hướng dẫn : TS Nguyễn Thị Hải Bình Sinh viên thực : Ngô Tấn Đăng – 1811061595 Phạm Trần Đăng Khoa – 1811061631 Hồ Sĩ Quỳnh Đức – 1811062104 TP Hồ Chí Minh, 2022 BM01/QT05/ĐT-KT Viện Cơng nghệ Việt – Nhật PHIẾU ĐĂNG KÝ ĐỀ TÀI ĐỒ ÁN/ KHÓA LUẬN TỐT NGHIỆP Hệ: Đại học chuẩn Nhật Bản Họ tên sinh viên/ nhóm sinh viên đăng ký đề tài (sĩ số nhóm: 3): (1) Ngơ Tấn Đăng MSSV:1811061595 Lớp: 18DTHJB2 (2) Phạm Trần Đăng Khoa MSSV:1811061631 Lớp: 18DTHJB2 (3) Hồ Sĩ Quỳnh Đức MSSV:1811062104 Lớp: 18DTHJB2 Ngành : Công nghệ thông tin Chuyên ngành : Công nghệ phần mềm Tên đề tài đăng ký: Nhận diện bệnh dựa mạng neuron tích chập Sinh viên hiểu rõ yêu cầu đề tài cam kết thực đề tài theo tiến độ hoàn thành thời hạn TP HCM, ngày 22 tháng 02 năm 2022 Sinh viên đăng ký (Ký ghi rõ họ tên) BM03a_V CNVN VIỆN CÔNG NGHỆ VIỆT - NHẬT PHIẾU GIAO NHIỆM VỤ THỰC HIỆN ĐỒ ÁN/ KHÓA LUẬN TỐT NGHIỆP (Mỗi nhóm phiếu, GVHD ghi rõ tên đề tài nhiệm vụ sinh viên GVHD chuyển cho SV để nộp VP Viện Công nghệ Việt – Nhật) Chủ đề/ hướng nghiên cứu đề tài: Nhận diện bệnh dựa mạng neuron tích chập Nhiệm vụ sinh viên thực (Phân rõ nhóm trưởng): 1) Tên đầy đủ: Ngô Tấn Đăng (nhóm trưởng) 2) Tên đầy đủ: Phạm Trần Đăng Khoa SĐT: 0976551534 Email: bobodang4@gmail.com SĐT: 0901489029 Email: phamtrandangkhoa25986@gmail.com Nhiệm vụ: - Xác định tốn, hướng nghiên cứu - Tìm thuật tốn - Triển khai thực nghiệm - Đánh giá kết Nhiệm vụ: - Phân tích tốn, hướng nghiên cứu - Tìm thuật tốn - Xây dựng giao diện - Chuẩn bị liệu để thực nghiệm 3) Tên đầy đủ: Hồ Sĩ Quỳnh Đức SĐT: 0774298722 Email: hsqd99@gmail.com Nhiệm vụ: - Phân tích tốn, hướng nghiên cứu - Tìm thuật tốn - Triển khai thực nghiệm - Đánh giá kết Nhiệm vụ nhóm: Hồn thành tốn xây dựng chương trình nhận diện bệnh dựa mạng neuron tích chập TP HCM, ngày 22 tháng 02 năm 2022 Giảng viên hướng dẫn (Ký ghi rõ họ tên) BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC CÔNG NGHỆ TP HCM VIỆN CÔNG NGHỆ VIỆT – NHẬT PHIẾU XÁC NHẬN DUYỆT BÁO CÁO ĐỒ ÁN/ KHÓA LUẬN TỐT NGHIỆP Họ tên sinh viên/ nhóm sinh viên: SV: Ngơ Tấn Đăng MSSV: 1811061595 Lớp: 18DTHJB2 SV: Phạm Trần Đăng Khoa MSSV: 1811061631 Lớp: 18DTHJB2 SV: Hồ Sĩ Quỳnh Đức MSSV: 1811062104 Lớp: 18DTHJB2 Tên đề tài: Nhận diện bệnh dựa mạng neuron tích chập …………………………………………………………………………………… …………………………………………………………………………………… Xác nhận giảng viên đọc duyệt cho sinh viên nộp ĐA/KLTN, bao gồm:  Báo cáo  Poster  Khác: …………………………………………………………………………… TP HCM, ngày … tháng … năm 20… Giảng viên hướng dẫn phụ (Nếu có) Giảng viên hướng dẫn (Ký ghi rõ họ tên) (Ký ghi rõ họ tên) LỜI CAM ĐOAN Chúng em xin cam đoan nghiên cứu qua hướng dẫn giảng viên Nguyễn Thị Hải Bình Các nội dung đồ án kết đồ án trung thực chưa cơng bố hình thức trước Trong trình làm đồ án chúng em có tham khảo tài liệu có nguồn gốc rõ ràng minh bạch Chúng em xin cam đoan có vấn đề liên quan đến đồ án chúng em xin chịu tồn trách nhiệm Sinh viên thực Ngô Tấn Đăng Phạm Trần Đăng Khoa Hồ Sĩ Quỳnh Đức LỜI CẢM ƠN Đầu tiên chúng em xin gửi lời cảm ơn chân thành Ban Giám Hiệu trường HUTECH - Khoa Công Nghệ Thông Tin viện công nghệ Việt - Nhật tạo điều kiện giúp đỡ chúng em thực đề tài đồ án tốt nghiệp lần Tiếp đến chúng em xin chân thành cảm ơn cô Nguyễn Thị Hải Bình tận tâm hướng dẫn chúng em qua buổi meeting để trao đổi, đưa ý kiến, mặt sai sót giúp đỡ chúng em, ngồi giám sát chặt chẽ chúng em tiến độ hoàn thành tuần qua để hoàn thành tốt tiến độ đồ án Mặc dù cố gắng hồn thiện đồ án ở mức tốt nhất, nhiên tìm hiểu xây dựng thời gian lượng kiến thức hạn chế đồ án chúng em khơng tránh khỏi thiếu sót Chúng em mong nhận quan tâm, thông cảm đóng góp quý báu thầy để đồ án chúng em ngày hoàn thiện Chúng em xin chân thành cảm ơn! Sinh viên thực Ngô Tấn Đăng Phạm Trần Đăng Khoa Hồ Sĩ Quỳnh Đức MỤC LỤC MỤC LỤC I DANH MỤC CÁC BẢNG IV DANH MỤC CÁC BIỂU ĐỒ, ĐỒ THỊ, SƠ ĐỒ, HÌNH ẢNH V TÓM TẮT NỘI DUNG BÁO CÁO VII LỜI MỞ ĐẦU CHƯƠNG TỔNG QUAN 1.1 Lý chọn đề tài 1.2 Mục tiêu nghiên cứu đề tài .3 1.3 Đối tượng nghiên cứu 1.4 Phạm vi nghiên cứu 1.5 Phương pháp nghiên cứu CHƯƠNG CƠ SỞ LÝ THUYẾT .5 2.1 Deep Learning 2.1.1 Deep Learning gì? .5 2.1.2 Cách thức hoạt động .6 2.2 Mơ hình CNN – Convolutional Neural Network 2.2.1 Convolutional gì? 2.2.2 Cấu trúc mạng CNN .8 2.2.3 Hình ảnh đầu vào 10 2.2.4 Lớp tích chập 10 2.2.5 Lớp gộp (Pooling layer) 13 2.3 Tìm hiểu thư viện sử dụng đồ án 14 2.3.1 Tensorflow gì? 14 2.3.2 Cách thức hoạt động tensorflow 15 2.3.3 Giới thiệu keras 16 2.3.4 Keras với linear regression 17 2.3.5 Keras với logistic regression .17 2.4 Nhận diện phân loại hình ảnh 18 2.4.1 Khái niệm nhận diện 18 2.4.2 Phân loại hình ảnh gì? 18 I 2.4.3 Các kỹ thuật phân loại hình ảnh 19 2.4.3.1 Phân loại có giám sát 19 2.4.3.2 Phân loại nhãn đơn .19 2.4.3.3 Phân loại đa nhãn 20 2.4.3.4 Phân loại video 20 2.4.3.5 Phân loại 3D 20 2.4.4 Cách thức hoạt động 21 CHƯƠNG BÀI TOÁN NHẬN DIỆN BỆNH TRÊN LÁ DỰA TRÊN MẠNG NEURON TÍCH CHẬP 22 3.1 Mô tả toán 22 3.2 Phương pháp nhận diện bệnh dựa mạng neuron tích chập (CNN) .23 3.2.1 Kiến trúc mạng neuron tích chập sâu AlexNet 24 3.2.1.1 Giới thiệu AlexNet 24 3.2.1.2 Kiến trúc mạng AlexNet 25 3.2.2 Kiến trúc mạng sử dụng khối VGG 26 3.2.2.1 Giới thiệu mạng VGG .26 3.2.2.2 Kiến trúc mạng VGG16 26 3.3 Overfiting gì? .28 3.4 Data Augmentation 28 3.5 Một số công thức sử dụng đồ án: 29 3.5.1 Công thức tính accuracy function: 29 3.5.1 Công thức tính loss function: .30 CHƯƠNG THỰC NGHIỆM VÀ ĐÁNH GIÁ KẾT QUẢ 31 4.1 Công cụ môi trường thực 31 4.2 Dữ liệu chuẩn bị (dataset) .31 4.3 Tăng cường liệu data augmentation .33 4.4 Mơ hình train phần mềm: 37 4.5 Training 38 4.6 Xuất kết training 39 4.7 Kết thực nghiệm 40 4.8 So sánh độ xác mơ hình với mơ hình nghiên cứu khác 44 II 4.9 So sánh kết với mô hình với cơng trình nghiên cứu khác: .45 CHƯƠNG 5: KẾT LUẬN VÀ KIẾN NGHỊ 47 5.1 Kết luận chung .47 5.1.1 Ưu điểm: .47 5.1.2 Nhược điểm: 47 5.2 Kiến nghị 47 TÀI LIỆU THAM KHẢO 49 III • Zoom: phóng to hay thu nhỏ hình ảnh Hình 4.5 Ảnh dùng phương thức Zoom Nâng cao hình ảnh đóng vai trò quan trọng việc xây dựng phân loại hình ảnh hiệu Việc phụ thuộc vào liệu bái toán, kiến trúc mạng đồng nghĩa với việc khơng có cách thức tổng qt cho tất tập liệu toán Cần thử nghiệm nhiều, tốn nhiều thời gian để tìm tìm cách tăng cường liệu tốt cho toán tập liệu 36 4.4 Mơ hình train phần mềm: Hình 4.6 Mơ hình AlexNet 37 Hình 4.7 Mơ hình VGG16 4.5 Training Hình 4.8 Thời gian hồn thành training AlexNet 38 Hình 4.9 Thời gian hồn thành training VGG16 4.6 Xuất kết training Hình 4.10 Biểu đồ kết training mơ hình AlexNet 39 Hình 4.11 Biểu đồ kết training mơ hình VGG16 4.7 Kết thực nghiệm Bảng So sánh đánh giá hai mô hình Mơ hình Độ xác tập liệu huấn luyện Độ xác tập liệu kiểm chứng AlexNet VGG16 88,92% 90,88% 83,33% 86,57% Nhận xét: Dựa bảng kết đánh giá hai mơ hình ta thấy độ xác mơ hình VGG16 tập liệu huấn luyện kiếm chứng cao mơ hình AlexNet Có thể kết luận mơ hình VGG16 mơ hình phù hợp cho việc giải toán nhận diện bệnh dựa mạng neuron tích chập • Trường hợp 1: Cả hai mơ hình nhận diện loại bệnh hình ảnh đầu vào 40 Hình 4.12 Kết nhận diện bị bệnh đốm ớt chng mơ hình VGG16 Hình 4.13 Kết nhận diện bị bệnh đốm ớt chng mơ hình AlexNet • Trường hợp 2: Mơ hình VGG16 nhận diện loại bệnh cịn mơ hình AlexNet nhận diện sai loại bệnh 41 Hình 4.14 Kết nhận diện bị bệnh mốc sương khoai tây mơ hình VGG16 Hình 4.15 Kết nhận diện sai bị bệnh mốc sương khoai tây mơ hình AlexNet • Trường hợp 3: Mơ hình VGG16 nhận diện sai loại bệnh cịn mơ hình AlexNet nhận diện loại bệnh 42 Hình 4.16 Kết nhận diện sai bị bệnh đốm cà chua mơ hình VGG16 Hình 4.17 Kết nhận diện bị bệnh đốm cà chua mơ hình AlexNet 43 Bảng Kết độ xác phân lớp Mơ hình AlexNet VGG16 Bệnh đốm ớt chuông 0.813567 0.99724305 Lá ớt chuông khỏe mạnh 0.9764 0.8688023 0.9127 0.8138 Bệnh mốc sương khoai tây 0.9788 0.9999 Bệnh đốm cà chua 0.5135 1.0 Độ xác chung 0.8333 0.8657 Loại bệnh Bệnh cháy sớm khoai tây 4.8 So sánh độ xác mơ hình với mơ hình nghiên cứu khác Với nghiên cứu Image-Based Tomato Leaves Diseases Detection Using Deep Learning sử dụng liệu gồm phân lớp 9000 liệu hình ảnh, gồm phân lớp bệnh lớp khỏe mạnh Nghiên cứu sử dụng hình ảnh thơ làm đầu vào, chúng tơi sử dụng Mạng Nơ ron tích chập(CNN) để trích xuất tính năng, kết mơ hình bao gồm hai phần: Phần mơ hình (trích xuất tính năng), điều tương tự phương pháp tiếp cận đầy đủ màu sắc phương pháp tiếp cận quy mô xám, bao gồm lớp có chức kích hoạt thuật toán Relu, lớp theo sau bởi lớp tổng hợp tối đa(Max Pooling layer) Phần thứ hai sau lớp làm phẳng chứa hai lớp dày đặc cho hai cách tiếp cận, có đầy đủ màu sắc có 256 đơn vị ẩn tạo nên tổng số số lượng thơng số mạng đào tạo 3,601,478, mặt khác, phương pháp tiếp cận theo thang xám có 128 đơn vị ẩn lớp dày đặc nắm đấm 1.994.374 dạng tổng thông số đào tạo, chúng tơi thu nhỏ kích thước mạng quy mô xám để tránh trang bị mức, lần cuối lớp cho hai có dùng hàm tính trung bình (Softmax) kích hoạt đầu đại diện cho lớp Sau đào tạo huấn luyện, cho độ xác 99.84% Với nghiên cứu Tomato Leaf Diseases Detection Using Deep Learning Technique sử dụng mơ hình InceptionV3 để giải tốn InceptionV3 mơ hình sử dụng kiến trúc mạng nơ ron sử dụng lọc với đa dạng kích thước 11x11, 5x5, 3x3 nhỏ 1x1 Việc kết hợp lọc với khối 44 (block) mang lại hiệu định đó khối Inception, khối Inception bao gồm nhánh song song Có lọc với kích thước đa dạng giúp trích lọc đa dạng tập trưng vùng nhận thức có kích thước khác Khối Inception lập lại lần kiến trúc Inception-V1, toàn cấu trúc mạng bao gồm 22 tầng lớp, lớn gần gấp đôi so với VGG16 nhờ áp dụng tích chập 1x1 giúp tiết kiệm số lượng tham số xuống triệu, gấp 27 lần so với VGG16 InceptionV3 kế thừa InceptionV1 bao gồm 24 triệu tham số, toàn tầng tích chập InceptionV3 theo sau bởi tầng lớp chuẩn hóa (batch normalization) tầng kích hoạt phi tuyến (ReLU activation) Inception-V3 giải vấn đề thắt cổ chai (representational bottlenecks) Tức kích thước layers khơng bị giảm cách đột ngột Đồng thời Inception-V3 có cách tính tốn hiệu nhờ sử dụng phương pháp nhân tố (factorisation methods).Nghiên cứu sử dụng 18162 hình ảnh chia thành 10 lớp khác đó lớp khỏe mạnh lớp bệnh Sau đào tạo huấn luyện hồn thành mơ hình InceptionV3 có độ xác 99.2% Bảng So sánh kết với trang khác Trang Tập liệu Báo cáo hiệu suất Keke et al [13] PlantVillage (2 lớp) Độ xác -97.20% Fuentes et al [14] PlantVillage (10 lớp) Độ xác -96% Nhận xét: Có thể thấy tốn nghiên cứu mơ hình tốt nhiều với tốn nhóm 86.57% 4.9 So sánh kết với mơ hình với cơng trình nghiên cứu khác: Nhóm sử dụng tập liệu có tên Plant Village chọn sử dụng lớp tổng 15 lớp tập liệu Plant Village Sau tìm hiểu nghiên cứu Tomato crop disease classification using pre-trained deep learning algorithm có sử dụng tập liệu giống với nhóm sử dụng phân lớp bệnh lớp khỏe mạnh với tổng số 13262 hình ảnh.Sau đào tạo huấn luyện qua mơ hình VGG16 Alexnet từ lớp tập liệu PlantVillage có độ xác 97.29% 97.49%, độ xác chung phân lớp mơ hình VGG16 89.33% 45 Nhận xét: độ xác chung phân lớp nghiên cứu 89.33% nhóm 86.57% Có thể thấy nhóm giải tốn cho kết không tệ cần cải thiện độ nhận diện hình ảnh hiệu 46 CHƯƠNG 5: KẾT LUẬN VÀ KIẾN NGHỊ 5.1 Kết luận chung Bảo vệ trồng canh tác hữu việc dễ dàng Điều phụ thuộc vào kiến thức kỹ lưỡng trồng phát triển có sâu bệnh, mầm bệnh cỏ dại Trong hệ thống này, mơ hình học sâu đặc biệt phát triển dựa mạng phức hợp để phát bệnh thực vật thơng qua hình ảnh khỏe mạnh bị bệnh Ngoài ra, qua trình tìm hiểu thực đề tài nhóm thu bổ sung kiến thức hoàn thành tương đối mục tiêu đề ra: ➢ Hiểu biết thêm loại bệnh nông nghiệp nguyên nhân, biểu loại bệnh cụ thể ➢ Hiểu biết thêm cách sử dụng thư viện Python, mơ hình CNN, thuật toán Machine Learning, … Nắm cách thức hoạt động xây dựng mơ hình Convolution Neural Network ➢ Xây dựng mơ hình ứng dụng phát bệnh hiển thị tên loại bệnh lên ứng dụng 5.1.1 Ưu điểm: Khả nhận diện cao, tương đối xác Tiết kiệm khả năng, chi phí cho việc chuẩn đốn so với phương pháp thông thường Hệ thống tiện dụng, thông minh, dễ dùng 5.1.2 Nhược điểm: Thời gian để thực việc huấn luyện tập liệu nhiều Dữ liệu thơng tin bệnh cịn hạn chế 5.2 Kiến nghị Về hướng phát triển tương lai, nhóm tiến hành thu thập thêm số lượng hình ảnh loại bệnh để mở rộng phạm vi nghiện cứu Đồng thời tìm hiểu thử nghiệm thêm số mơ hình, phương pháp phát nhận diện 47 khác để so sánh ưu khuyết điểm, từ tiến hành áp dụng vào hệ thống để đưa đến sản phẩm cho người nông dân 48 TÀI LIỆU THAM KHẢO [1] (2012) Imagenet classification with deep convolutional neural networks Được truy lục từ https://proceedings.neurips.cc/paper/2012/file/c399862d3b9d6b76c8436e924a6 8c45b-Paper.pdf [2] (2020) Tìm hiểu mạng AlexNet Được truy lục từ https://www.phamduytung.com/blog/2018-06-15-understanding-alexnet/ [3] (2014) Very deep convolutional networks for large-scale image recognition Được truy lục từ https://arxiv.org/pdf/1409.1556.pdf [4] (2014) ImageNet Classification with Deep Convolutional Neural Networks Được truy lục từ https://proceedings.neurips.cc/paper/2012/file/c399862d3b9d6b76c8436e924a6 8c45b-Paper.pdf [5] (2021) Phân loại hình ảnh thị giác máy tính Được truy lục từ https://product.vinbigdata.org/phan-loai-hinh-anh-trong-thi-giac-may-tinh/ [6] (2020) Giải pháp thích ứng học sâu ứng dụng nhận dạng đối tượng Được truy lục từ https://sdh.duytan.edu.vn/uploads/9afb5af9-6634-4ec5-b138819fc5aa0a7a_3.tomtatluanan.viet.pdf [7] (2021) Disea Detection using Deeplearning python project Được truy lục từ https://enggprojectworld.blogspot.com/2021/03/Python-Code-For-Corn-LeafDisease-Detection-Using-Deep-Learning.html [8] (2022) Data augmentation on images in Tensorflow Được truy lục từ https://medium.com/ymedialabs-innovation/data-augmentation-techniques-incnn-using-tensorflow-371ae43d5be9#c3f1 [9] (2021).Plant Disease Detection and Classification using CNN Được truy lục từ https://www.ijrte.org/wp-content/uploads/papers/v10i3/C64580910321.pdf [10] (2019) PlantVillage Dataset Được truy lục từ https://www.kaggle.com/datasets/abdallahalidev/plantvillage-dataset/ 49 [11] (2018) Image-Based Tomato Leaves Diseases Detection Using Deep Learning Được truy lục từ http://dstore.alazhar.edu.ps/xmlui/handle/123456789/278 [12] (2017) Tomato Leaf Diseases Detection Using Deep Learning Technique Được truy lục từ https://www.intechopen.com/chapters/76494 [13] (2018) Can Deep Learning Identify Tomato Leaf Disease Được truy lục từ https://www.hindawi.com/journals/am/2018/6710865/ [14] (2018) High-Performance Deep Neural Network-Based Tomato Plant Diseases and Pests Diagnosis System With Refinement Filter Bank Được truy lục từ https://www.frontiersin.org/articles/10.3389/fpls.2018.01162/full#h5/ [15] (2018) Tomato crop disease classification using pre-trained deep learning algorithm Được truy lục từ https://www.sciencedirect.com/science/article/pii/S1877050918310159 / 50