Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)

Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)Luận văn Thạc sĩ Kỹ thuật điện tử: Xây dựng mô hình phối hợp các mạng Nơrôn nhận dạng tín hiệu điện tim (ECG)

BỘ CÔNG THƯƠNG TRƯỜNG ĐẠI HỌC SAO ĐỎ NGUYỄN QUANG LONG XÂY DỰNG MƠ HÌNH PHỐI HỢP CÁC MẠNG NƠ-RƠN NHẬN DẠNG TÍN HIỆU ĐIỆN TIM (ECG) LUẬN VĂN THẠC SĨ NGÀNH: KỸ THUẬT ĐIỆN TỬ NGƯỜI HƯỚNG DẪN KHOA HỌC TS ĐỖ VĂN ĐỈNH HẢI DƯƠNG – NĂM 2021 BỘ CƠNG THƯƠNG TRƯỜNG ĐẠI HỌC SAO ĐỎ CỘNG HỊA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập – Tự – Hạnh phúc NHIỆM VỤ LUẬN VĂN THẠC SĨ Họ tên học viên: Nguyễn Quang Long Mã học viên: 1800997 Ngày, tháng, năm sinh: 18/8/1987 Nơi sinh: Hải Dương Ngành: Kỹ thuật điện tử Mã số: 8520203 Tên đề tài: Xây dựng mơ hình phối hợp mạng Nơ-rơn nhận dạng tín hiệu điện tim (ECG) Nội dung: - Tổng quan phương pháp nhận dạng tín hiệu điện tim; - Giới thiệu chung mạng Nơ-rơn; - Xây dựng mơ hình phối hợp mạng Nơ-rơn nhận dạng tín hiệu điện tim (ECG); - Kết tính tốn mơ Ngày giao nhiệm vụ: Tháng 9/2020 Ngày hoàn thành nhiệm vụ: Tháng 4/2021 Người hướng dẫn khoa học: TS Đỗ Văn Đỉnh NGƯỜI HƯỚNG DẪN KHOA HỌC (Ký, ghi rõ họ tên) TS Đỗ Văn Đỉnh Hải Dương, ngày tháng 10 năm 2020 TRƯỞNG BỘ MÔN (Ký, ghi rõ họ tên) Nguyễn Thị Phương Oanh TL HIỆU TRƯỞNG Trường Đại học Sao Đỏ Luận văn Thạc sĩ LỜI CAM ĐOAN Tôi xin cam kết nghiên cứu luận văn tốt nghiệp kết thu trình nghiên cứu riêng học viên với hướng dẫn TS Đỗ Văn Đỉnh Không chép kết nghiên cứu cơng trình nghiên cứu khác Nội dung nghiên cứu có tham khảo sử dụng số thông tin, tài liệu từ nguồn tài liệu liệt kê danh mục tài liệu tham khảo Nếu sai xin chịu hình thức kỷ luật theo quy định Hải Dương, ngày 31 tháng năm 2021 Tác giả luận văn Nguyễn Quang Long Học viên: Nguyễn Quang Long i Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ LỜI CẢM ƠN Với lịng kính trọng biết ơn, em xin chân thành gửi lời cảm ơn tới TS Đỗ Văn Đỉnh, Thầy tận tình giảng dạy, hướng dẫn, giúp đỡ tác giả q trình học tập hồn thiện làm luận văn Tác giả xin chân thành cảm ơn thầy, cô trực tiếp giảng dạy tồn khóa học; cám ơn tập thể thầy cô giáo Khoa Điện, trường Đại học Sao Đỏ; lãnh đạo Trường Cao đẳng Cơ giới Xây dựng; tập thể khoa Điện - trường Cao đẳng Cơ giới Xây dựng quan tâm, tạo điều kiện giúp đỡ tác giả trình học tập, nghiên cứu; cảm ơn anh, em, bạn bè, đồng nghiệp gia đình động viên, hỗ trợ, đóng góp ý kiến giúp em hồn thành luận văn Dưới hướng dẫn TS Đỗ Văn Đỉnh cố gắng, nỗ lực thân đến Luận văn hoàn thành Tuy nhiên, báo cáo Luận văn khơng tránh khỏi thiếu sót, mong nhận góp ý thầy, bạn đọc để Luận văn tác giả hoàn thiện Xin trân trọng cảm ơn! Học viên: Nguyễn Quang Long ii Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ MỤC LỤC Trang LỜI CAM ĐOAN .i LỜI CẢM ƠN ii MỤC LỤC iii DANH MỤC CÁC KÝ HIỆU, CÁC TỪ VIẾT TẮT vi DANH MỤC CÁC BẢNG viii DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ x MỞ ĐẦU 1 Lý chọn đề tài .1 Tính cấp thiết đề tài Mục tiêu nghiên cứu 3.1 Mục tiêu tổng quát .2 3.2 Mục tiêu cụ thể Nội dung nghiên cứu .2 Đối tượng phạm vi nghiên cứu 5.1 Đối tượng nghiên cứu 5.2 Phạm vi nghiên cứu Phương pháp nghiên cứu Ý nghĩa khoa học thực tiễn đề tài 7.1 Ý nghĩa khoa học .2 7.2 Ý nghĩa thực tiễn Cấu trúc đề tài Chương TỔNG QUAN VỀ CÁC PHƯƠNG PHÁP NHẬN DẠNG TÍN HIỆU ĐIỆN TIM 1.1 Đặt vấn đề 1.2 Tình hình nghiên cứu ngồi nước 1.3 Tình hình nghiên cứu nước .10 1.4 Định hướng nghiên cứu đề tài .12 1.5 Kết luận chương 12 Chương GIỚI THIỆU CHUNG VỀ MẠNG NƠ-RÔN 13 2.1 Trí tuệ nhân tạo 13 2.2 Nơ-rôn sinh học 16 2.3 Mạng nơ-rôn nhân tạo 17 Học viên: Nguyễn Quang Long iii Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ 2.3.1 Lịch sử hình thành phát triển 17 2.3.2 Mơ hình mạng nơ-rơn nhân tạo 18 2.3.3 Các hàm kích hoạt 21 2.3.4 Phân loại mạng nơ-rôn 23 2.4 Huấn luyện mạng nơ-rôn 25 2.5 Một số ứng dụng mạng nơ-rôn 25 2.6 Một số mạng nơ-rôn đề xuất để ứng dụng nhận dạng tín hiệu điện tim 27 2.6.1 Mạng MLP 27 2.6.2 Mạng nơ-rôn mờ TSK 30 2.6.3 Máy véc-tơ hỗ trợ SVM 37 2.6.4 Rừng ngẫu nhiên RF .38 2.7 Kết luận chương 39 Chương XÂY DỰNG MƠ HÌNH PHỐI HỢP CÁC MẠNG NƠ-RƠN NHẬN DẠNG TÍN HIỆU ĐIỆN TIM 40 3.1 Trích chọn đặc tính tín hiệu điện tim ECG 40 3.1.1 Phát đỉnh R 41 3.1.2 Phân tích phức QRS theo hàm Hermite sở 44 3.2 Xây dựng mơ hình nhận dạng đơn .48 3.2.1 Quy trình xây dựng mơ hình đơn 48 3.2.2 Xây dựng mô hình mạng MLP .49 3.2.3 Xây dựng mơ hình mạng TSK 49 3.2.4 Xây dựng mơ hình véc-tơ hỗ trợ SVM 49 3.2.5 Mơ hình rừng ngẫu nhiên RF 50 3.3 Phối hợp mạng nơ-rơn nhận dạng tín hiệu điện tim mơ hình định 51 3.3.1 Đề xuất mơ hình kết hợp .51 3.3.2 Quy trình xây dựng định cho khối tổng hợp kết 53 3.3.3 Cây định 54 3.4 Kết luận chương 60 Chương KẾT QUẢ TÍNH TỐN, MƠ PHỎNG 54 4.1 Xây dựng số liệu mẫu .54 4.1.1 Cơ sở liệu MIT-BIH 54 4.1.2 Cơ sở liệu MGH/MF .57 4.2 Các tiêu đánh giá chất lượng mơ hình nhận dạng tín hiệu điện tim 58 4.3 Kết mơ hình nhận dạng đơn 59 Học viên: Nguyễn Quang Long iv Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ 4.3.1 Trên sở liệu MIT-BIH 59 4.3.2 Trên sở liệu MGH/MF 62 4.4 Kết thử nghiệm mơ hình kết hợp mạng nơ-rôn định 63 4.4.1 Thử nghiệm kết hợp ba mạng sở MLP, TSK SVM 63 4.4.2 Các thử nghiệm kết hợp khác .66 4.5 Kết luận chương 69 KẾT LUẬN VÀ KIẾN NGHỊ .70 Kết luận .70 Kiến nghị 70 Học viên: Nguyễn Quang Long v Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ DANH MỤC CÁC KÝ HIỆU, CÁC TỪ VIẾT TẮT Từ, cụm từ viết tắt Tiếng Anh Tiếng Việt ANN Artificial Neural Network Mạng nơ-rôn nhân tạo BPN Back Propagation Network Mạng lan truyền ngược CHF Congestive heart failure Suy tim sung huyết DNN Deep Neural Networks Mạng nơ-rôn sâu Decision Tree Cây định ECG ElectroCardioGram Điện tâm đồ ELM Elaboration Likelihood Model Xây dựng khả mơ hình FastICA Independent Component Analysis Phân tích thành phần độc lập FFN Feed Forward Network Mạng truyền thẳng FIR Finite Impulse Response Filter Bộ lọc có đáp ứng xung hữu hạn FN False Negative Chẩn đốn âm tính sai FP False Positive Chẩn đốn dương tính sai ICA Independent Component Analysis Phân tích thành phần độc lập KNN K-nearest neighbors Thuật toán học máy có giám sát DT L Left Bundle Branch Block Beat Block nhánh trái LVQ Learning Vector Quantization Học tập Vector lượng tử hóa MGH/MF MGH/MF Waveform Database Cơ sở liệu MGH/MF MIT-BIH MITBIH Arrhythmia Database Cơ sở liệu MITBIH MLP Multi-Layer Perceptron Network Mạng nơ-rôn truyền thẳng nhiều lớp PCA Principal Components Analysis Phép phân tích thành phần PCA Principal Component Analysis Phân tích theo thành phần QRS QRS Complex Phức QRS R Right Bundle Branch Block Beat Block nhánh phải RF Random Forest Rừng ngẫu nhiên RR Relative Risk Tỷ số nguy tử vong raventricular Premature Beat Loạn nhịp thất SNR Signal-to-noise ratio Tỷ lệ tín hiệu nhiễu SVD Singular Value Decomposition Phân tích theo giá trị kỳ dị S Học viên: Nguyễn Quang Long vi Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Từ, cụm từ viết tắt Luận văn Thạc sĩ Tiếng Anh Tiếng Việt Support Vector Machine Máy vectơ hỗ trợ TN True Negative Số trường hợp chẩn đốn âm tính TP True Positive Số trường hợp chẩn đốn dương tính Takaga – Sugeno – Kang neuro fuzzy network Mạng nơ-rôn logic mờ TSK TTNT Artificial intelligence Trí tuệ nhân tạo V Premature Ventricular Contraction Ngoại tâm thu thất SVM TSK Học viên: Nguyễn Quang Long vii Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ DANH MỤC CÁC BẢNG Trang Bảng 3.1 Bảng phân chia số lượng mẫu học mẫu kiểm tra loại nhịp 56 Bảng 3.2 Ví dụ số liệu cụ thể sáu mẫu học (từ 6) ba mẫu kiểm tra (từ 9) .56 Bảng 3.3 Ma trận phân bố kết nhận dạng ba loại mẫu nhịp định 57 Bảng 3.4 Bảng phân chia số lượng mẫu học mẫu kiểm tra loại nhịp 57 Bảng 3.5 Bảng số liệu học kiểm tra cho ví dụ 58 Bảng 3.6 Kết nhận dạng Ví dụ .60 Bảng 4.1 Bảng phân chia số lượng mẫu học mẫu kiểm tra loại rối loạn nhịp tim từ CSDL MIT-BIH 55 Bảng 4.2 Bảng phân chia số lượng mẫu học mẫu kiểm tra loại nhịp 55 Bảng 4.3 Bảng phân chia số lượng mẫu học mẫu kiểm tra loại nhịp 57 Bảng 4.4 Bảng phân chia số lượng mẫu học mẫu kiểm tra loại nhịp 57 Bảng 4.5 Ma trận phân bố kết nhận dạng loại mẫu nhịp mạng MLP 59 Bảng 4.6 Ma trận phân bố kết nhận dạng loại mẫu nhịp mạng TSK 60 Bảng 4.7 Ma trận phân bố kết nhận dạng loại mẫu nhịp mạng SVM 60 Bảng 4.8 Ma trận phân bố kết nhận dạng loại mẫu nhịp RF .60 Bảng 4.9 Các thông số đánh giá chất lượng bốn mơ hình sở MLP, TSK, SVM RF nhận dạng loại nhịp, thử nghiệm CSDL MIT-BIH .61 Bảng 4.10 Ma trận phân bố kết nhận dạng loại mẫu nhịp: Normal abnormal .61 Bảng 4.11 Các thông số đánh giá chất lượng bốn mô hình sở MLP, TSK, SVM RF nhận dạng hai loại nhịp, thử nghiệm CSDL MIT-BIH 62 Bảng 4.12 Ma trận phân bố kết nhận dạng loại mẫu nhịp mạng MLP 62 Bảng 4.13 Ma trận phân bố kết nhận dạng loại mẫu nhịp mạng TSK .62 Bảng 4.14 Ma trận phân bố kết nhận dạng loại mẫu nhịp mạng SVM 62 Bảng 4.15 Ma trận phân bố kết nhận dạng loại mẫu nhịp mạng RF 63 Bảng 4.16 Các thông số đánh giá chất lượng bốn mơ hình sở MLP, TSK, SVM RF nhận dạng ba loại nhịp, thử nghiệm CSDL MGH/MF .63 Bảng 4.17 Các thông số đánh giá chất lượng bốn mơ hình sở MLP, TSK, SVM RF nhận dạng hai loại nhịp, thử nghiệm CSDL MGH/MF 63 Bảng 4.18 Ma trận phân bố kết nhận dạng loại mẫu nhịp mơ hình kết hợp MLP, TSK, SVM 64 Học viên: Nguyễn Quang Long viii Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ Bảng 4.6 Ma trận phân bố kết nhận dạng loại mẫu nhịp mạng TSK Mẫu N L R A V I E N 920 0 L 518 0 R 481 12 0 A 19 375 2 V 14 1 439 0 I 0 199 E 0 0 37 Tổng sai số 15 43 23 13 Kết Bảng 4.7 Ma trận phân bố kết nhận dạng loại mẫu nhịp mạng SVM Mẫu N L R A V I E N 919 7 0 L 546 1 3 R 479 0 A 11 2 385 0 V 1 448 I 1 0 197 E 0 0 0 36 Tổng sai số 16 15 13 Kết Bảng 4.8 Ma trận phân bố kết nhận dạng loại mẫu nhịp RF Mẫu Kết N L R A V I E N 914 11 0 L 547 0 R 478 0 A 18 382 0 V 1 443 I 198 E 0 0 0 36 Học viên: Nguyễn Quang Long 60 Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ Mẫu Kết N L R A V I E Tổng sai số 21 14 16 Bảng 4.9 Các thông số đánh giá chất lượng bốn mơ hình sở MLP, TSK, SVM RF nhận dạng loại nhịp, thử nghiệm CSDL MIT-BIH Loại mơ hình Số mẫu nhận dạng sai % Sai số FN TN FP TP Sensitivity (%) Specificity (%) MLP 110 3,59 18 905 30 2115 99,16 96,79 TSK 100 3,26 23 920 15 2110 98,92 98,40 SVM 60 1,96 15 919 16 2118 99,30 98,29 RF 70 2,28 20 914 21 2113 99,06 97,75 Từ bảng kết 4.9 ta thấy, kết cao mơ hình nhận dạng đơn SVM, thấp mạng MLP, chênh lệch kết kiểm tra lớn (gần 50%) Từ ma trận phân bố kết nhận dạng mơ hình đơn ta thấy lỗi nhận dạng loại nhịp không giống nhau, mạng MLP hầu hết trường hợp nhận nhầm loại N A (số lần nhận nhầm N thành A 17), mạng TSK 9, mạng TSK lại có lỗi nhận nhầm lớn bệnh A R (12 lần), mạng MLP Như mơ hình nhận dạng đơn có ưu điểm nhược điểm khác nhận dạng loại nhịp, kết nhận dạng không trùng nhau, sở quan trọng để khẳng định hướng sử dụng mơ hình kết hợp đắn b) Thử nghiệm liệu bảng 4.2 Thử nghiệm sở liệu MIT-BIH, nhận dạng hai loại nhịp: Bình thường (normal) bất thường (abnormal) Do đó, ma trận phân bố kết có dạng chung bảng 4.10, nên trường hợp nhận dạng hai loại nhịp kết cần tổng kết bảng 4.11 đủ Bảng 4.10 Ma trận phân bố kết nhận dạng loại mẫu nhịp: Normal abnormal Mẫu Kết Normal Abnormal Normal TN FN Abnormal FP TP Học viên: Nguyễn Quang Long 61 Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ Bảng 4.11 Các thông số đánh giá chất lượng bốn mô hình sở MLP, TSK, SVM RF nhận dạng hai loại nhịp, thử nghiệm CSDL MIT-BIH Loại mơ hình Số mẫu nhận dạng sai Sai số (%) FN TN FP TP Sensitivity (%) Specificity (%) MLP 39 1,27 14 910 25 2119 99,34 97,33 TSK 41 1,34 17 911 24 2116 99,20 97,43 SVM 26 0,85 917 18 2125 99,.62 98,07 RF 37 1,21 13 911 24 2120 99,39 97,43 4.3.2 Trên sở liệu MGH/MF a) Thử nghiệm liệu bảng 4.3 Thử nghiệm sở liệu MGH/MF, nhận dạng ba loại nhịp Bảng 4.12 Ma trận phân bố kết nhận dạng loại mẫu nhịp mạng MLP Mẫu N V S N 979 15 11 V 13 225 S 11 230 Tổng sai số 24 24 18 Kết Bảng 4.13 Ma trận phân bố kết nhận dạng loại mẫu nhịp mạng TSK Mẫu N V S N 983 29 15 V 16 219 S 225 Tổng sai số 20 30 23 Kết Bảng 4.14 Ma trận phân bố kết nhận dạng loại mẫu nhịp mạng SVM Mẫu N V S N 991 3 V 10 242 10 S 235 Tổng sai số 12 13 Kết Học viên: Nguyễn Quang Long 62 Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ Bảng 4.15 Ma trận phân bố kết nhận dạng loại mẫu nhịp mạng RF Mẫu N V S Kết N 982 35 35 V 10 213 S 11 209 Tổng sai số 21 36 39 Bảng 4.16 Các thông số đánh giá chất lượng bốn mơ hình sở MLP, TSK, SVM RF nhận dạng ba loại nhịp, thử nghiệm CSDL MGH/MF Loại mơ hình MLP Số mẫu nhận dạng sai 66 TSK Sai số (%) FN TN FP TP Sensitivity (%) Specificity (%) 4,40 26 979 24 471 94,77 97,61 73 4,87 44 983 20 453 91,15 98,01 SVM 32 2,13 991 12 491 98,79 98,80 RF 96 6,40 70 982 21 427 85,92 97,91 b) Thử nghiệm liệu bảng 3.4 Thử nghiệm sở liệu MGH/MF, nhận dạng hai loại nhịp (bình thường bất thường) Bảng 4.17 Các thơng số đánh giá chất lượng bốn mơ hình sở MLP, TSK, SVM RF nhận dạng hai loại nhịp, thử nghiệm CSDL MGH/MF Sai số (%) FN TN FP TP Sensitivity (%) Specificity (%) MLP Số mẫu nhận dạng sai 37 2,47 22 988 15 475 95,57 98,50 TSK 62 4,13 37 978 25 460 92,56 97,51 SVM 20 1,33 989 14 491 98,79 98,60 RF 78 5,20 54 979 24 443 89,13 97,61 Loại mơ hình 4.4 Kết thử nghiệm mơ hình kết hợp mạng nơ-rơn định 4.4.1 Thử nghiệm kết hợp ba mạng sở MLP, TSK SVM Khi sử dụng ba mơ hình nhận dạng sở MLP, TSK SVM ta thu kết mơ hình kết hợp MLP-STK-SVM bảng 4.18 sau Học viên: Nguyễn Quang Long 63 Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ Bảng 4.18 Ma trận phân bố kết nhận dạng loại mẫu nhịp mơ hình kết hợp MLP, TSK, SVM Mẫu N L R A V I E 928 1 10 0 L 557 R 481 A 383 0 V 446 0 I 0 1 198 E 0 0 37 Tổng sai số 4 15 Kết N Bảng 4.19 Các thông số đánh giá chất lượng bốn mơ hình sở MLP, TSK, SVM mơ hình kết hợp MLP-TSK-SVM nhận dạng loại nhịp Loại mơ hình MLP Số mẫu Sai số nhận (%) dạng sai 110 3,59 Sensitivity Specificity (%) (%) FN TN FP TP 18 905 30 2115 99,16 96,79 TSK 100 3,26 23 920 15 2110 98,92 98,40 SVM 60 1,96 15 919 16 2118 99,30 98,29 MLP-TSKSVM 38 1,24 12 928 2121 99,44 99,25 Bảng 4.18 ma trận phân bố kết mô hình kết hợp (MLPTSK-SVM), ta thấy hầu hết trường hợp nhận nhầm loại A N (số lần nhận nhầm A thành N 10), nguyên nhân hình dạng nhịp loại A N giống nhau, lỗi nhầm lẫn khác khơng đáng kế (≤ lỗi); Hình 4.3 So sánh số mẫu nhận dạng sai, chẩn đốn âm tính sai FN, chẩn đốn dương tính sai FP ba mơ hình nhận dạng sở mơ hình kết hợp Học viên: Nguyễn Quang Long 64 Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ Bảng 4.19 tổng hợp thông số chất lượng mơ hình nhận dạng đơn mơ hình kết hợp Ta thấy, ba mơ hình nhận dạng đơn SVM có chất lượng cao nhất, kết nhận dạng tiếp tục cải thiện sử dụng mô hình kết hợp MLPTSK-SVM định, so sánh với mơ hình đơn tốt SVM tất tiêu chí đánh giá chất lượng có kết tốt hơn, cụ thể: - Sai số kiểm tra giảm 22 mẫu (từ 60 mẫu xuống cịn 38 mẫu); - Số trường hợp chẩn đốn âm tính sai FN giảm mẫu (từ 15 mẫu xuống 12 mẫu); - Số trường hợp chẩn đoán dương tính sai FP giảm mẫu (từ 16 mẫu xuống mẫu); - Tỷ lệ chẩn đốn dương tính Sensitivity cải thiện thêm khoảng 0,14%; - Tỷ lệ chẩn đốn âm tính tính Specificity cải thiện thêm khoảng 0,96%; Tiếp tục so sánh với giải pháp kết hợp kết phổ biến khác như: Majority voting (biểu theo đa số), weighted voting (bỏ phiếu có trọng số), Kullback– Leibler (theo xác suất thông kê), modified Bayes (theo xác suất điều kiện Bayes), kết lấy nghiên cứu Osowski cộng [28], từ kết bảng 4.20 ta rút số nhận xét sau: - Tất hệ thống nhận dạng sử dụng mơ hình kết hợp có kết nhận dạng tốt so với hệ thống nhận dạng sử dụng mơ hình nhận dạng, trường hợp kết 1,63% - trường hợp biểu theo đa số (majority voting), cao so với mơ hình nhận dạng đơn tốt SVM (1,96% bảng 4.18); - Mơ hình kết hợp dùng định DT có kết nhận dạng tốt với tỷ lệ nhận dạng sai 1,24% Bảng 4.20 Bảng kết mơ hình kết hợp kết ba mơ hình nhận dạng đơn MLP-TSK-SVM Majority voting Số mẫu nhận dạng sai 50 Weighted voting 42 1,37 Kullback–Leibler 45 1,47 Modified Bayes 48 1,56 Decision tree 38 1,24 STT Phương pháp tổng hợp % Sai số 1,63 Qua kết thử nghiệm sở liệu MIT-BIH (là nhóm nghiên cứu quốc tế thường dùng để tham chiếu), tác giả minh chứng giải pháp Học viên: Nguyễn Quang Long 65 Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ kết hợp song song ba mơ hình nhận dạng sở (MLP, TSK, SVM) định DT tiếp tục nâng cao chất lượng kết nhận dạng tín hiệu điện tim ECG; 4.4.2 Các thử nghiệm kết hợp khác Ngồi kết trình bày mục (4.4.1), luận văn cịn tiến hành thêm có số thử nghiệm sau: - Luận văn khảo sát thêm mơ hình nhận dạng sở thứ rừng ngẫu nhiên RF, để có thêm nhiều trường hợp thử nghiệm khác như, ví dụ ta tạo trường hợp kết hợp như: (1) MLP-TSK-SVM, (2) MLP-TSK-RF, (3) MLP-RF-SVM, (4) RFTSK-SVM, (5) MLP-TSK-SVM-RF; - Thử nghiệm kết thêm với sở liệu MGH/MF; - Thử nghiệm kết nhận dạng hai loại nhịp (bình thường bất thường); Cụ thể tiến hành thêm bốn thử nghiệm: Thử nghiệm 1: Trên sở liệu MIT-BIH (cụ thể bảng 4.1), có kết bảng 4.21, để thuận tiện cho việc so sánh thơng số mơ hình nhận dạng sở mơ hình kết hợp, tác giả đưa lại kết mơ hình nhận dạng sở Bảng 4.21 Kết nhận dạng loại nhịp (CSDL MIT-BIH) mơ hình đơn mơ hình kết hợp Số mẫu nhận dạng sai Sai số (%) FN TN FP TP MLP 110 3,59 18 905 30 2115 99,16 96,79 TSK 100 3,26 23 920 15 2110 98,92 98,40 SVM 60 1,96 15 919 16 2118 99,30 98,29 RF 70 2,28 20 914 21 2113 99,06 97,75 MLP-TSK-SVM 38 1,24 12 928 2121 99,44 99,25 MLP-TSK-RF 43 1,40 16 927 2117 99,25 99,14 MLP-RF-SVM 40 1,30 13 923 12 2120 99,39 98,72 RF-TSK-SVM 39 1,27 10 920 15 2123 99,53 98,40 MLP-TSKSVM-RF 37 1,21 916 19 2129 99,81 97,97 Loại mơ hình Học viên: Nguyễn Quang Long 66 Sensitivity Specificity (%) (%) Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ Thử nghiệm 2: Trên sở liệu MIT-BIH (cụ thể bảng 3.2), nhận dạng hai loại nhịp (bình thường bất thường) Bảng 4.22 Kết nhận dạng loại nhịp (CSDL MIT-BIH) mơ hình đơn mơ hình kết hợp Số mẫu nhận dạng sai Sai số (%) FN TN FP TP MLP 39 1,27 14 910 25 2119 99,34 97,33 TSK 41 1,34 17 911 24 2116 99,20 97,43 SVM 26 0,85 917 18 2125 99,62 98,07 RF 37 1,21 13 911 24 2120 99,39 97,43 MLP-TSKSVM 21 0,68 920 15 2127 99,72 98,40 MLP-TSK-RF 22 0,72 921 14 2125 99,62 98,50 MLP-RF-SVM 23 0,75 921 14 2124 99,58 98,50 RF-TSK-SVM 16 0,52 924 11 2128 99,77 98,82 MLP-TSKSVM-RF 15 0,49 927 2126 99,67 99,14 Loại mơ hình Sensitivity Specificity (%) (%) Thử nghiệm 3: Trên sở liệu MGH/MF (cụ thể bảng 3.3), nhận dạng ba loại nhịp N, S, V Bảng 4.23 Kết nhận dạng loại nhịp (CSDL MGH/MF) mô hình đơn mơ hình kết hợp Loại mơ hình Số mẫu Sai nhận số dạng sai (%) FN TN FP TP Sensitivity Specificity (%) (%) MLP 66 4,40 26 979 24 471 94,77 97,61 TSK 73 4,87 44 983 20 453 91,15 98,01 SVM 32 2,13 991 12 491 98,79 98,80 RF 96 6,40 70 982 21 427 85,92 97,91 MLP-TSK-SVM 25 1,67 994 494 99,40 99,10 MLP-TSK-RF 30 2,00 10 992 11 487 97,99 98,90 MLP-RF-SVM 25 1,67 996 491 98,79 99,30 RF-TSK-SVM 25 1,67 994 492 98,99 99,10 Học viên: Nguyễn Quang Long 67 Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ MLP-TSKSVM-RF Luận văn Thạc sĩ 21 1,40 996 492 98,99 99,30 Thử nghiệm 4: Trên sở liệu MGH/MF (cụ thể bảng 3.4), nhận dạng hai loại nhịp (bình thường bất thường) Bảng 4.24 Kết nhận dạng loại nhịp (CSDL MGH/MF) mơ hình đơn mơ hình kết hợp Loại mơ hình Số mẫu nhận dạng sai Sai số (%) FN TN FP TP Sensitivity (%) Specificity (%) MLP 37 2,47 22 988 15 475 95,57 98,50 TSK 62 4,13 37 978 25 460 92,56 97,51 SVM 20 1,33 989 14 491 98,79 98,60 RF 78 5,20 54 979 24 443 89,13 97,61 MLP-TSK-SVM 17 1,13 991 12 492 98,99 98,80 MLP-TSK-RF 20 1,33 989 14 491 98,79 98,60 MLP-RF-SVM 19 1,27 990 13 491 98,79 98,70 RF-TSK-SVM 18 1,20 991 12 491 98,79 98,80 MLP-TSKSVM-RF 15 1,00 992 11 493 99,20 98,90 Từ kết thử nghiệm ta có số đánh sau: - Sai số kiểm tra (số mẫu nhận dạng sai) mơ hình kết hợp đề thấp so với mơ hình nhận dạng sở, riêng có trường hợp – thử nghiệm 4, sai số mơ hình SVM mơ hình kết hợp MLP-TSKRF có số mẫu nhận dạng sai 20; - Số trường hợp chẩn đốn âm tính sai FN số trường hợp chẩn đốn dương tính sai FP phần lớn có kết tốt so với mơ hình nhận dạng sở, có bốn trường hợp kết hơn, cụ thể: - Trong thí nghiệm 1: Số trường hợp chẩn đốn âm tính sai FN (của MLPTSKRF) tăng mẫu (từ 15 mẫu lên 16 mẫu) so với FN (của SVM) Số trường hợp chẩn đốn dương tính sai PN (của MLP-TSK-SVM-RF) tăng mẫu (từ 15 mẫu lên 19 mẫu) so với FP (của TSK); - Trong thí nghiệm 2: Số trường hợp chẩn đốn âm tính sai FN (của MLPRFSVM) tăng mẫu (từ mẫu lên mẫu) so với FN (của SVM); Học viên: Nguyễn Quang Long 68 Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ - Trong thí nghiệm 3: Số trường hợp chẩn đốn âm tính sai FN (của MLPTSKRF) tăng mẫu (từ mẫu lên 10 mẫu) so với FN (của SVM); 4.5 Kết luận chương Trong chương 4, tác giả xây dựng liệu mẫu điện tim sở liệu chuẩn MIT-BIH MGH/MF, tách liệu mẫu thành hai phần, phần dùng để huấn luyện cho mơ hình nhận dạng đơn MLP, TSK, SVM, RF định, phần lại dùng để kiểm tra độ xác mơ hình Kết thực nghiệm cho thấy mơ hình kết hợp định có chất lượng cao so với mơ hình nhận dạng đơn trình bày tổng hợp bảng từ 4.21 đến 4.24 Học viên: Nguyễn Quang Long 69 Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ KẾT LUẬN VÀ KIẾN NGHỊ Kết luận Việc nghiên cứu tín hiệu điện tim ECG quan trọng sức khỏe người, nhu cầu nghiên cứu phát triển thuật tốn nhận dạng để tăng độ xác, tin cậy kết Đặc biệt nhu cầu cao thiết bị đo có tích hợp chức nhận dạng tự động bệnh tim Đóng góp luận văn đề xuất giải pháp cải thiện độ xác kết nhận dạng tín hiệu điện tim dựa hệ thống kết hợp nhiều mơ hình nhận dạng đơn Luận văn hoàn thành mục tiêu đề ra, cụ thể như: 1- Tổng quan mô hình nhận dạng tín điện tim sử dụng mạng nơ-rôn; 2- Giới thiệu chung mạng nơ-rôn; 3- Xây dựng mơ hình phối hợp mạng nơ-rơn nhận dạng tín hiệu điện tim: - Quy trình xây dựng mơ hình nhận dạng đơn sử dụng mạng nơ-rơn sở; - Xây dựng mơ hình kết hợp mạng nơ-rơn định để nhận dạng tín hiệu điện tim 4- Tính tốn, mơ kết quả: - Xây dựng sở liệu dựa sở liệu mẫu MIT-BIH MGH/MF; - Kết thực nghiệm mơ hình đơn mơ hình kết hợp Luận văn đề xuất giải pháp phối hợp mạng nơ-rôn định để nhận dạng tín hiệu điện tim Kết thực nghiệm số liệu mẫu MIT-BIH MGH/MF cho thấy với mơ hình nhận dạng đơn có ưu điểm nhược điểm khác nhận dạng loại nhịp, kết nhận dạng khơng trùng nhau; mơ hình nhận dạng đơn sử dụng SVM thường cho kết tốt mơ hình đơn khác; mơ hình kết hợp mạng nơ-rôn sử dụng định cho kết nhận dạng tốt (cụ thể bảng từ 4.21 đến 4.24) Kiến nghị Trong luận văn, phương pháp đề xuất đạt số kết khả quan kết hợp mơ hình mạng nơ-rôn với sử dụng định để nhận dạng tín hiệu điện tim dựa sở số liệu mẫu MIT-BIH MGH/MF Tuy nhiên, lĩnh vực nghiên cứu số tồn cần tiếp tục nghiên cứu giải gắn kết nghiên cứu với thực tiễn: chế tạo thiết bị đo để tự thu thập sở liệu bệnh nhân thực tế; hoàn thiện sơ sở liệu với hỗ trợ bác sỹ chuyên ngành tim để nâng cao độ xác nhận dạng gắn với thực tiễn Một số hướng để phát triển đề tài: Học viên: Nguyễn Quang Long 70 Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ 1- Tiếp tục tìm hiểu thử nghiệm mơ hình nhận dạng để nâng cao độ xác độ tin cậy nhận dạng; 2- Chế tạo thiết bị đo để tự thu thập sở liệu các bệnh nhân thực tế; 3- Hoàn thiện sở liệu với hỗ trợ bác sĩ chuyên ngành tim mạch Học viên: Nguyễn Quang Long 71 Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ TÀI LIỆU THAM KHẢO Tiếng Việt [1] Nguyễn Mạnh Cường, Lê Vinh Tiến, Nguyễn Duy Thái (2016), “Kết hợp mạng Nơ-rôn biến đổi Wavelet nhận dạng phức QRS” HNKH toàn quốc lần thứ điều khiển & Tự động hoá [2] Nguyễn Ngọc Hùng, Bùi Trọng Tú, Hồ Anh Vũ, Dương Văn Tuấn (2014), “Tách loại bỏ nhiễu cho tín hiệu điện tâm đồ ECG sử dụng phương pháp phân tích thành phần độc lập FASTICA cải tiến” Hội Thảo Quốc Gia 2014 Điện Tử, Truyền Thông, Công Nghệ Thông Tin (REV-ECIT) [3] Đặng Thúy Hằng (2015), “Ứng dụng mơ hình thơng minh phân loại nhận dạng chuỗi AND cho số loại bệnh ung thư”, luận án Tiến sĩ, Học viện Kỹ thuật Quân Sự [4] Phạm Văn Nam, Trần Hoài Linh, Nguyễn Thị Lan Hương (2017), “Ứng dụng định để xây dựng mơ hình phối hợp nâng cao chất lượng nhận dạng tín hiệu điện tim” Tạp chí tự động hóa ngày VCCA [5] Nguyễn Đức Thảo (2016), “Nâng cao chất lượng nhận dạng tín hiệu ECG dựa giải pháp loại bỏ ảnh hưởng từ nhịp thở người bệnh” Luận văn tiến sỹ: Đại họcBách Khoa Hà Nội [6] Trần Hoài Linh (2014), Mạng nơ-rơn ứng dụng xử lý tín hiệu Nhà xuất Bách Khoa Hà Nội [7] Vương Hoàng Nam (2010), “Nghiên cứu, phát triển số giải thuật xử lý mù tín hiệu ứng dụng”, luận văn Tiến sĩ, ĐHBK Hà Nội Tiếng Anh [8] Atena Sajedin, Reza Ebrahimpour, Tahmoures Younesi Garousi (2011), "Electrocardiogram Beat Classification Using Classifier Fusion Based on Decision Template", 2011 IEEE 10th International Conference on Cybernetic Intelligent Systems (CIS), pp - 12 [9] A.M Elsayad (2009), "Classification of ECG arrhythmia using learning vector quantization neural networks", International Conference on Computer Engineering & Systems, 2009, ICCES 2009, pp.139 – 144 [10] A Bogunovic, Jovic N (2008), "Analysis of ECG records using ECG Chaos Extractor platform and Weka system", 30th International Conference on Information Technology Interfaces (ITI), pp 347 – 352 [11] A Manis Kampouraki, G Nikou, C (2009), "Heartbeat Time Series Classification With Support Vector Machines", IEEE Transactions on Information Technology in Biomedicine, vol 13, p 512 – 518 [12] C.W and Lin Hsu, C.J (2002), "A comparison methods for multi class support vector machines", IEEE Transactions on Neural Networks 13(2), pp 415–425 [13] Chien-Chih Wang, Cheng-Ding Chang (2010) "SVD and SVM based approach for congestive heart failure detection from ECG signal", the 40th International Conference on Computers & Indutrial Engineering, pp 1-5 [14] E Zellmer, Fei S., Hao Z (2009), "Highly accurate ECG beat classification based on continuous wavelet transformation and multiple support vector machine Học viên: Nguyễn Quang Long 72 Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ classifiers", Proceedings of the 2nd International Conference on Biomedical Engineering and Informatics, Tianjin, China, pp.1-5 [15] G and Mark Moody, R (2001), "The impact of the MIT-BIH Arrhythmia Database", IEEE Engineering in Medicine and Biology 20(3), pp 45–50 [16] H Huifang, Guangshu, H and Li, Z (2010), "Ensemble of Support Vector Machines for Heartbeat Classification", Proceedings of the 10th IEEE International Conference on Si- gnal Processing (ICSP), Beijing, China, pp.1327–1330 [17] Jiapu Pan, willis J Tompkins (1985), "A Real-Time QRS Detection Algorithm", IEEE Transactions on Biomedical Engineering, vol BME-32, no 3, 1985 [18] Lim, J.S (2009) "Finding Features for Real-Time Premature Ventricular Contraction Detection Using a Fuzzy Neural Network System, IEEE Transactions on Neural Networks, vol 20, p 522 – 527 [19] L Breiman (2001) Random forests, Machine Learning 45(1):5–32 [20] L Tran Hoai, S Osowski (2004), "Analysis of features for efficient ECG signal classification using neuro-fuzzy network", IEEE International Joint Conference on Neural Networks (IEEE Cat No.04CH37541), pp 2443 - 2448 [21] Nivedita Daimiwal Shital L Pingale (2014), "Detection of Various Diseases Using ECG Signal in MALAB", International Journal of Recent Technology and Engineering (IJRTE) ISSN, pp 120-123 [22] Patrick S Hamilton, Willis J Tompkins (1986), "Quantitative Investigation of QRS Detection Rules Using the MIT/BIH Arrhythmia Database", IEEE Transactions on Biomedical Engineering, pp 1157-1165 [23] Pengfei Gao; Jingwei Zhao; Guijin Wang; Hengkai Guo (2016), "Real time ECG characteristic point detection with randomly selected signal pair difference (RSSPD) feature and random forest classifier", 2016 38th Annual International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC), Pages: 732 - 735 [24] R; Heinen Yishan Wang; Wunderlich, S (2013), "A low noise wearable wireless ECG system with body motion cancellation for long term homecare", IEEE 15th International Conference on e-Health Networking, Applications and Services (Healthcom 2013), pp 507-511 [25] Stanisław Osowski, Tran Hoai Linh (2003), "OnLine Heart Beat Recognition Using Hermite Polynomials and NeuroFuzzy Network", IEEE Transactions on Instrumentation and Measurement, pp 1224 - 1231 [26] Stanisław Osowski, Tran Hoai Linh, Maciej Stodolski (2001), "ECG Beat Recognition Using Fuzzy Hybrid Neural Network", IEEE Transactions on Biomedical Engineering, pp 1265-1271 [27] S Osowski, K Brudzewski, L Tran Hoai (2013), "Modified neuro-fuzzy TSK network and its application in electronic nose", Bulletin of the Polish Academy of Technical Sciences, Vol 61, No 3, 2013 [28] S Osowski, T Markiewicz, L Tran Hoai (2008), "Recognition and classification system of arrhythmia using ensemble of neural networks", Article in Measurement, Vol 41, pp 610–617 Học viên: Nguyễn Quang Long 73 Ngành: Kỹ thuật điện tử Trường Đại học Sao Đỏ Luận văn Thạc sĩ [29] S Osowski, L Tran Hoai, T Markiewicz (2006), "Ensemble of neural networks for improved recognition and classification of arrhythmia" Metrology for a Sustainable Development September, Rio de Janeiro, Brazil, pp 17 – 22 [30] S Haykin (1999), "Neural Networks", Pearson Education (Singapore) [31] Stanislaw Osowski, Linh Tran Hoai, Tomasz Markiewicz (2004), "Support Vector Machine-Based Expert System for Reliable Heartbeat Recognition", IEEE Transactions on Biomedical Engineering, pp 582-589 [32] T Hoai Linh, S Osowski, K Brudzewski (2004), "Neuro-fuzzy network for flavor recognition and classification", IEEE transactions on instrumentation and measurement, vol 53, no 3, pp 638-644 [33] Valtino X Afonso (1993), "ECG QRS Detection", Biomedical digital signal processing [34] Yao Li, Qingning Zeng (2013), "ECG classification based on sparse constrained nonnegative-matrix factorization and decision tree", 2013 8th International ICST Conference on Communications and Networking in China (CHINACOM), pp 730-733 [35] http://www.physionet.org/physiobank/database/mghdb/ [36] http://www.physionet.org/physiobank/database/mitdb/ [37] https://uet.vnu.edu.vn/tri-tue-nhan-tao-trong-thoi-dai-boi-canh-gioi-va-lien-voiviet-nam/ Học viên: Nguyễn Quang Long 74 Ngành: Kỹ thuật điện tử ... phối hợp mạng Nơ-rơn nhận dạng tín hiệu điện tim (ECG) Nội dung: - Tổng quan phương pháp nhận dạng tín hiệu điện tim; - Giới thiệu chung mạng Nơ-rơn; - Xây dựng mơ hình phối hợp mạng Nơ-rơn nhận. .. hình dự báo cho toán phi tuyến 3.2 Mục tiêu cụ thể - Xây dựng mơ hình nhận dạng tín hiệu điện tim dựa hình ảnh tín hiệu điện tim mẫu - Đề xuất mơ hình nhận dạng tín hiệu điện tim sử dụng mơ hình. .. hình phối hợp mạng Nơ – rôn Nội dung nghiên cứu - Tổng quan phương pháp nhận dạng tín hiệu điện tim - Giới thiệu chung mạng Nơ – rôn - Xây dựng mơ hình phối hợp mạng nơ-rơn nhận dạng tín hiệu điện