Trang 1 BỘ CÔNG THƯƠNG TRƯỜNG ĐẠI HỌC ĐIỆN LỰC VŨ VIỆT VƯƠNG NGHIÊN CỨU, ỨNG DỤNG HỌC SÂU TRONG NHẬN DIỆN BẤT THƯỜNG CHUỖI SỨ CÁCH ĐIỆN TỪ ẢNH UAV LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN
BỘ CÔNG THƯƠNG TRƯỜNG ĐẠI HỌC ĐIỆN LỰC VŨ VIỆT VƯƠNG NGHIÊN CỨU, ỨNG DỤNG HỌC SÂU TRONG NHẬN DIỆN BẤT THƯỜNG CHUỖI SỨ CÁCH ĐIỆN TỪ ẢNH UAV LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN HÀ NỘI, 2019 BỘ CÔNG THƯƠNG TRƯỜNG ĐẠI HỌC ĐIỆN LỰC VŨ VIỆT VƯƠNG NGHIÊN CỨU, ỨNG DỤNG HỌC SÂU TRONG NHẬN DIỆN BẤT THƯỜNG CHUỖI SỨ CÁCH ĐIỆN TỪ ẢNH UAV Chuyên ngành : Công nghệ Thông tin Mã số : 7480102 LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN Người hướng dẫn khoa học: TS Nguyễn Thị Thanh Tân HÀ NỘI, 2019 LỜI CẢM ƠN Sau thời gian tiến hành thực nghiệm nghiên cứu, em hoàn thành nội dung luận văn “Nghiên cứu, ứng dụng học sâu nhận diện bất thường chuỗi sứ cách điện từ ảnh UAV” Quá trình hồn thành luận văn khơng dựa cơng sức thân mà cịn có giúp đỡ, hỗ trợ tích cực nhiều cá nhân tập thể Em xin gửi lời cảm ơn chân thành tri ân sâu sắc thầy cô trường Đại học Điện Lực, đặc biệt thầy cô khoa Công Nghệ Thông Tin trường tạo điều kiện cho em thực luận văn thạc sĩ Và em xin chân thành cảm ơn Nguyễn Thị Thanh Tân nhiệt tình hướng dẫn em hồn thành luận văn Nhờ có mà luận văn em hoàn thiện mặt nội dung hình thức Cơ ln quan tâm, động viên nhắc nhở kịp thời, thời điểm để em hồn thành luận văn tiến độ nhận thức trách nhiệm thân tới đề tài em Nhân dịp này, em xin gửi lời cảm ơn tới gia đình, bạn bè động viên, tạo điều kiện cho em trình học tập trình thực luận văn Xin trân trọng cảm ơn đề tài nghiên cứu ứng dụng phát triển cơng nghệ cấp quốc gia, thuộc chương trình hỗ trợ nghiên cứu, phát triển ứng dụng công nghệ công nghiệp 4.0 mã số: KC-4.0.31/19-25 hỗ trợ nghiên cứu, thực nghiệm trình thực luận văn Em xin chân thành cảm ơn! Hà nội, ngày 16 tháng 05 năm 2023 Học viên thực Vũ Việt Vương LỜI CAM ĐOAN Em xin cam đoan sử dụng tài liệu tham khảo tác giả, nhà khoa học luận văn trích dẫn phụ lục “Tài liệu tham khảo” cho việc nghiên cứu viết luận văn em Em cam đoan số liệu kết tính tốn trình bày luận văn “Nghiên cứu, ứng dụng học sâu nhận diện bất thường chuỗi sứ cách điện từ ảnh UAV” hồn tồn em tự tìm hiểu thực trình nghiên cứu viết luận văn, không chép chưa sử dụng cho đề tài luận văn Em xin chân thành cảm ơn! Hà nội, ngày 16 tháng 05 năm 2023 Học viên thực Vũ Việt Vương MỤC LỤC LỜI MỞ ĐẦU CHƯƠNG 1: TỔNG QUAN VỀ HỌC SÂU VÀ CÁC BÀI TOÁN ỨNG DỤNG 1.1 Mạng nơ-ron nhân tạo 1.2 Một số khái niệm học sâu 11 1.3 Mạng nơ-ron tích chập (Convolutional Neural Network-CNN) 16 1.4 Ứng dụng học sâu toán phát nhận dạng bất thường từ hình ảnh 19 1.5 Kết luận chương 20 CHƯƠNG 2: PHƯƠNG PHÁP PHÁT HIỆN VÀ NHẬN DẠNG BẤT THƯỜNG DỰA TRÊN MÔ HÌNH HỌC SÂU 22 2.1 Bài toán phát nhận dạng bất thường từ hình ảnh 22 2.2 Các hướng tiếp cận phát nhận dạng bất thường từ hình ảnh 23 2.3 Phương pháp phát đối tượng dựa kiến trúc mạng học sâu Yolo 24 2.3 Các kiến trúc mạng Yolo 28 2.4 Kết luận chương 43 CHƯƠNG 3: ỨNG DỤNG HỌC SÂU TRONG PHÁT HIỆN VÀ NHẬN DIỆN BẤT THƯỜNG CHUỖI SỨ CÁCH ĐIỆN TỪ ẢNH UAV 45 3.1 Bài toán phát nhận diện bất thường chuỗi sứ cách điện 45 3.2 Xây dựng tập liệu chuỗi cách điện 47 3.3 Các kỹ thuật làm giàu tập liệu huấn luyện 50 3.4 Đề xuất mơ hình phát nhận diện bất thường chuỗi cách điện dựa kiến trúc mạng học sâu Yolo 52 3.5 Đánh giá thực nghiệm 56 3.6 Kết luận chương 60 KẾT LUẬN 61 DANH MỤC CÁC TÀI LIỆU THAM KHẢO 62 STT Từ viết tắt DANH MỤC TỪ VIẾT TẮT AI UAV Nguyên nghĩa ANN Trí tuệ nhân tạo MLP Thiết bị máy bay không người lái CNN Mạng lưới nơ-ron nhân tạo R-CNN Mạng nơ-ron truyền thẳng nhiều lớp NN Mạng nơ-ron tích chập DL Mạng nơ-ron tích chập dựa khu vực RNN Mạng nơ-ron nhân tạo 10 FC Kỹ thuật học sâu 11 YOLO Mạng nơ-ron tái phát 12 SSD Kết nối đầy đủ 13 AP You Only Look Once 14 mAP Single Shot MultiBox Detector 15 NMS Độ xác trung bình 16 TP Độ xác trung bình trung bình 17 FP Loại bỏ không tối đa 18 FN Phát xác mơ hình thực 19 TN Phát khơng xác mơ hình thực 20 FPN Sự thật bị mơ hình phát đối tượng bỏ sót Vùng khơng mơ hình phát xác Mạng kim tự tháp đặc trưng 21 SPP Nhóm kim tự tháp không gian 22 PANet Mạng tổng hợp đường dẫn 23 SAM Mô-đun ý không gian sửa đổi 24 CSP Kết nối chéo giai đoạn phần 25 CSPNet Kết nối phần xuyên giai đoạn 26 BoF Tập kĩ thuật phương pháp không làm tăng chi phí suy luận 27 BoS Tập phương pháp tăng thêm chi phí xử lý cải thiện độ xác 28 SAT Huấn luyện tự đối đầu 29 CBL Khối gồm lớp tích chập với q trình chuẩn hóa hàng loạt hàm Leaky ReLU 30 UP Các kỹ thuật giúp tăng kích thước output mạng CNN 31 CBM Khối gồm lớp tích chập với q trình chuẩn hóa hàng loạt hàm Mish 32 EMA Đường trung bình động hàm mũ 33 GA Giải thuật di truyền 34 E-ELAN Mạng tập hợp lớp hiệu mở rộng DANH MỤC HÌNH VẼ Hình 1: Mơ hình nơ-ron sinh học Hình 2: Kiến trúc mạng MLP Hình 3: Multi Layer perceptron .6 Hình 4: Gradient descent Hình 5: Learning rate Hình 6: Dropout 12 Hình 7: Batch Normalization 13 Hình 8: Filters 14 Hình 9: Convolutional neural network 14 Hình 10: Pooling 15 Hình 11: Padding 15 Hình 12: Convolutional Neural Network 17 Hình 13: Các lớp Convolutional Neural Network 17 Hình 14: Convolution Layer 18 Hình 15: Pooling layer 19 Hình 16: Fully connected layer 19 Hình 1: Hình Dịng thời gian phiên YOLO 24 Hình 2: Ví dụ ba giá trị IoU khác cho vị trí hộp khác 26 Hình 3: Đầu áp dụng thuật tốn NMS 28 Hình Kiến trúc yolov1 28 Hình 5: Kết dự đốn mơ hình Yolov1 29 Hình 6: Backbone Darknet-19 30 Hình 7: Yolov2 xác định nhiều anchor box cho ô lưới 31 Hình 8: Dự đốn hộp giới hạn 32 Hình 9: Kiến trúc backbone Darknet 53 .33 Hình 10: Kiến trúc phát đa quy mô Yolov3 34 Hình 11: Mơ hình phát đối tượng 35 Hình 12: Kiến trúc Yolov4 để phát đối tượng 36 Hình 13: CSPResBlock Yolov4 (trên) C3 Module (dưới) 37 Hình 14: Kiến trúc module SPPF 37 Hình 15: Xử lý Data: Mosaic Augmentation 38 Hình 16: Xử lý Data: Copy-paste Augmentation 38 Hình 17: Xử lý Data: Random Affine transform 39 Hình 18: Xử lý Data: MixUp Augmentation 39 Hình 19: Lựa chọn nhiều Anchor Box cho object 40 Hình 20: Kiến trúc Yolov6 41 Hình 21: Kỹ thuật channel-wise distillation 41 Hình 22: Trực quan hóa anchor box Yolo 42 Hình 23: Khối detection head Yolov8 43 Hình 1: Chuỗi cách điện thu với góc camera từ xuống 48 Hình 2: Chuỗi cách điện thu với góc camera từ lên .48 Hình 3: Chuỗi cách điện thu với góc camera nhìn thẳng 48 Hình Hình ảnh liệu gán nhãn cơng cụ Labelme 49 Hình Tệp data hình ảnh 49 Hình Ảnh sinh thuật toán zoom ảnh 51 Hình Ảnh sinh thuật toán chỉnh kênh độ sáng 51 Hình Ảnh sinh thuật toán lật ảnh 51 Hình Ảnh sinh thuật toán add ảnh 51 Hình 10: Kiến trúc mơ hình mạng tổng thể thuật toán Yolov8 52 Hình 11: Minh họa chi tiết module kiến trúc thuật tốn Yolov8 53 Hình 12: Bảng số mAP box mask đối tượng 56 Hình 13: Bảng Confusion Matrix 57 Hình 14: Bảng Confusion Matrix Normalized 57 Hình 15: Kết nhận dạng bất thường vỡ bát cách điện thủy tinh 59 Hình 16: Dữ liệu thu từ Camera UAV Camera cố định 59 LỜI MỞ ĐẦU Hệ thống điện đóng vai trị quan trọng phát triển kinh tế quốc gia sở hạ tầng quan trọng kinh tế quốc dân Vận hành hệ thống điện tập hợp thao tác nhằm trì chế độ làm việc bình thường hệ thống điện ứng yêu cầu chất lượng, tin cậy kinh tế Quá trình vận hành hệ thống điện thực với quán triệt chặt chẽ nhằm đáp ứng yêu cầu hệ thống điện như: đảm bảo hiệu kinh tế cao, đảm bảo chất lượng điện, độ tin cậy cung cấp điện liên tục, tính linh hoạt đáp ứng đồ thị phụ tải Một hệ thống điện thường rộng lớn quy mô, trải dài không gian với nhiều thiết bị điện khác từ phần phát điện, truyền tải phân phối điện Do đó, hệ thống điện phát sinh hư hỏng tình trạng làm việc khơng bình thường phần tử hệ thống điện Trên thực tế trình vận hành hệ thống điện giới Việt Nam cho thấy, chế độ vận hành hệ thống điện tính tốn phân tích kỹ lưỡng q trình lập quy hoạch, báo cáo khả thi, thiết kế kỹ thuật, lập kế hoạch xây dưng cho phương thức vận hành hệ thống điện, cố đường dây trạm xảy ra, trí tương đối phức tạp có tính chất ngày gia tăng theo phát triển hệ thống gây thiệt hại hệ thống điện dẫn đến tổn thất kinh tế vô lớn cho đất nước Trong vài thập kỷ qua, nước phát triển nghiên cứu ứng dụng công nghệ lưới điện thông minh để đại hóa nâng cấp lưới điện Các cơng nghệ mới, đại sử dụng lưới truyền tảu điện nhằm hướng điến mục tiêu tự động hóa q trình giám sát tình trạng chế độ vận hành, đảm bảo tính an tồn hiệu Việc ứng dụng cơng nghệ tự động hóa cơng nghệ thông tin vận hành, quản lý hệ thống lưới điện có bước tiến lớn chưa thực làm chủ công nghệ tự động hóa trạm cơng nghệ đại Bên cạnh đó, vài năm trở lại đây, hướng nghiên cứu ứng dụng tảng cơng nghệ trí tuệ nhân tạo (AI) tích hợp với hệ thống camera giám sát thiết bị máy bay không người lái (UAV) tự động kiểm tra, giám sát cảnh báo cố sớm lưới điện nhóm nghiên cứu doanh nghiệp giới đặc biệt quan tâm Sự phát triển loại cảm biến chuyên dụng camera hồng ngoại camera có chất lượng tốt mức độ zoom quang zoom số cao cho phép UAV phát cố phổ biến, bao gồm cố đường truyền, hỏng hóc thiết bị đường dây truyền tải điện hư hỏng cột điện cao Không bị giới hạn vấn đề địa lý, máy bay khơng người lái thực kiểm tra tự động dọc theo đường dây điện, giúp giảm đáng kể thời gian chi phí so với phương thức kiểm tra cổ điển Hơn nhân viên kiểm tra đường dây làm việc trực tiếp với môi trường phức