Luận văn Thạc sĩ Nghiên cứu và thử nghiệm phần mềm phân loại hành vi bò sử dụng thuật toán cây quyết định

BỘ GIÁO DỤC VIỆN HÀN LÂM VÀ ĐÀO TẠO KHOA HỌC VÀ CÔNG NGHỆ VN HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ NGUYỄN VIỆT ANH Nguyễn Việt Anh HỆ THỐNG THÔNG TIN NGHIÊN CỨU VÀ THỬ NGHIỆM PHẦN MỀM PHÂN LOẠI HÀNH VI BỊ SỬ DỤNG THUẬT TỐN CÂY QUYẾT ĐỊNH LUẬN VĂN THẠC SĨ Hệ thống thông tin 2021 Hà Nội - 2021 BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN HÀN LÂM KHOA HỌC VÀ CÔNG NGHỆ VN HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ Nguyễn Việt Anh NGHIÊN CỨU VÀ THỬ NGHIỆM PHẦN MỀM PHÂN LOẠI HÀNH VI BỊ SỬ DỤNG THUẬT TỐN CÂY QUYẾT ĐỊNH Chun ngành: Hệ thống thông tin Mã số: ITT801 LUẬN VĂN THẠC SĨ NGÀNH MÁY TÍNH CÁN BỘ HƯỚNG DẪN KHOA HỌC TS TRẦN ĐỨC NGHĨA Hà Nội – tháng năm 2021 LỜI CAM ĐOAN Tôi xin cam đoan đề tài nghiên cứu luận văn cơng trình nghiên cứu dựa tài liệu, số liệu tơi tự tìm hiểu nghiên cứu Chính vậy, kết nghiên cứu đảm bảo trung thực khách quan Đồng thời, kết chưa xuất nghiên cứu Các số liệu, kết nêu luận văn trung thực sai tơi hồn chịu trách nhiệm Tác giả luận văn Nguyễn Việt Anh LỜI CẢM ƠN Để hồn thành luận văn này, tơi xin gửi lời cảm ơn chân thành tình cảm đặc biệt tới ngƣời thầy đồng thời đồng nghiệp nơi công tác TS Trần Đức Nghĩa Thầy ngƣời ln theo sát, tận tình bảo, góp ý, hƣớng dẫn định hƣớng cho tơi suốt q trình làm luận văn Học Viện Khoa học Công nghệ, Viện Hàn lâm Khoa học Công nghệ Việt Nam Nghiên cứu đƣợc thực khuôn khổ đề tài mã số KC.01.21/16-20 tài trợ Bộ Khoa học Công nghệ Tiếp theo, xin gửi lời cảm ơn sâu sắc tới thầy cô, bạn Học Viện Khoa học Công nghệ; anh chị đồng nghiệp Viện Công nghệ Thông tin sẵn sàng giúp đỡ tạo điều kiện tốt cho q trình làm luận văn Tơi xin cảm ơn hỗ trợ nhóm nghiên cứu tiềm Cảm nhận thông minh ứng dụng (SSA), Trƣờng đại học Phenikaa Mặc dù có nhiều cố gắng, song thời gian thực luận văn có hạn, nên luận văn cịn nhiều hạn chế Tôi mong nhận đƣợc nhiều góp ý, bảo thầy, để hồn thiện luận văn Tơi xin chân thành cảm ơn! Hà Nội, ngày 12 tháng năm 2021 Học viên Nguyễn Việt Anh MỤC LỤC LỜI CAM ĐOAN LỜI CẢM ƠN MỤC LỤC DANH MỤC HÌNH VẼ DANH MỤC BẢNG BIỂU DANH MỤC VIẾT TẮT CHƢƠNG 1: TỔNG QUAN VỀ ĐỀ TÀI NGHIÊN CỨU 1.1 Yêu cầu thực tiễn 1.2 Mục tiêu luận văn 1.3 Cấu trúc luận văn CHƢƠNG 2: CƠ SỞ LÝ THUYẾT 10 2.1 Các nghiên cứu liên quan 10 2.2 Giới thiệu học máy 10 2.3 Các thuật toán phân loại phổ biến 11 2.3.1 K-Nearest Neighbors (k-NN) 11 2.3.2 Support Vector Machines 13 2.3.3 Decision Tree 13 2.3.4 Random Forest 16 2.3.5 Gradient Boosted Decision Tree 17 2.4 Ngơn ngữ lập trình Python 17 2.4.1 Đặc điểm chung mạnh 17 2.4.2 Thƣ viện scikit-learn cho học máy 18 CHƢƠNG 3: PHƢƠNG PHÁP ĐÁNH GIÁ VÀ KẾT QUẢ 19 3.1 Quy trình đề xuất 19 3.2 Gia tốc kế trục phần cứng cảm biến 20 3.3 Lấy mẫu liệu tiền xử lý 22 3.4 Kết đánh giá 25 3.5 Nhận xét 29 CHƢƠNG 4: XÂY DỰNG CHƢƠNG TRÌNH THỬ NGHIỆM QUẢN LÝ VÀ PHÂN LOẠI DỮ LIỆU HÀNH VI 31 4.1 Nhu cầu mục tiêu 31 4.2 Yêu cầu kỹ thuật 31 4.3 Giải pháp phân tích lựa chọn 32 4.3.1 Kiến trúc vật lý hệ thống 33 4.3.2 Ngôn ngữ Python tảng phát triển 34 4.3.3 Giải pháp quản trị sở liệu Posgresql 34 4.3.4 Mơ hình MVC xây dựng phần mềm thử nghiệm 35 4.3.5 Xử lý tác vụ chạy với Celery Redis 36 4.3.6 Kiến trúc logic tổng thể phần mềm thử nghiệm 38 4.4 Thiết kế chức hệ thống 39 4.4.1 Quản trị ngƣời sử dụng 39 4.4.2 Quản lý thông tin trang trại 41 4.4.3 Quản lý thơng tin bị sữa 42 4.4.4 Quản lý thông tin liệu huấn luyện mô hình 44 4.4.5 Quản lý liệu suy luận kế phân loại 45 4.5 Giao diện chức sử dụng 46 4.5.1 Quản lý ngƣời dùng 46 4.5.2 Quản lý thông tin trang trại 47 4.5.3 Quản lý cá thể bò sữa liệu 48 4.5.4 Quản lý liệu huấn luyện mơ hình huấn luyện 48 4.5.5 Quản lý liệu suy luận kết phân loại 50 4.5.6 Thống kê kết 52 CHƢƠNG 5: KẾT LUẬN 53 TÀI LIỆU THAM KHẢO 54 DANH MỤC HÌNH VẼ Hình 2-1: Mơ hình thuật tốn k-NN 12 Hình 2-2: Mơ hình thuật tốn SVM 13 Hình 2-3: Mơ hình thuật tốn định 14 Hình 2-4: Mơ hình thuật tốn Random Forest 16 Hình 3-1: Mơ hình thuật toán học máy để phân loại hành vi 19 Hình 4-1: Kiến trúc vật lý hệ thống 33 Hình 4-2: Mơ hình MVC 35 Hình 4-3: Hàng đợi tác vụ xử lý không đồng 37 Hình 4-4: Nguyên lý hoạt động Celery Redis tảng Django 37 Hình 4-5: Kiến trúc logic tổng thể phần mềm thử nghiệm 38 Hình 4-6: Sơ đồ usecase nhóm chức quản trị ngƣời dùng 39 Hình 4-7: Sơ đồ usecase nhóm chức quản lý trang trại 41 Hình 4-8: Sơ đồ usecase quản lý thơng tin bò sữa 42 Hình 4-9: Sơ đồ usecase nhóm chức quản lý liệu huấn luyện 44 Hình 4-10: Sơ đồ usecase nhóm chức quản lý liệu suy luận 45 Hình 4-11: Danh sách ngƣời dùng 46 Hình 4-12: Chức liệt kê trang trại 47 Hình 4-13: Chức thêm, sửa, xóa trang trại 47 Hình 4-14: Chức liệt kê danh sách cá thể bò sữa 48 Hình 4-15: Chức thêm, sửa, xóa cá thể bò sữa 48 Hình 4-16: Huấn luyện mơ hình cho cá thể bò sữa 49 Hình 4-17: Danh sách tập liệu huấn luyện 49 Hình 4-18: Lịch sử kết tác vụ huấn luyện mô hình phân loại 50 Hình 4-19: Danh sách tập liệu phân loại đƣợc tải lên thủ cơng 50 Hình 4-20: Tải lên liệu phục vụ phân loại hành vi 51 Hình 4-21: Kết suy luận từ liệu tải lên 51 Hình 4-22: Thống kê hành vi cá thể bò sữa ngày gần 52 DANH MỤC BẢNG BIỂU ảng 3-1: Ví dụ ghi sau chia đoạn 23 ảng 3-2: Số lƣợng liệu thu đƣợc hành vi 24 ảng 3-3: Các phƣơng pháp trích chọn đặc trƣng 25 ảng 3-4: So sánh độ rõ chung mơ hình phân loại 27 ảng 3-5: Ma trận nhầm lẫn thuật toán G DT hành vi cụ thể liệu J Wang 28 ảng 3-6: Ma trận nhầm lẫn thuật toán G DT hành vi cụ thể liệu tự thu thập 28 ảng 3-7: Hiệu suất tổng thể mơ hình G DT hành vi liệu Jun Wang 29 ảng 3-8: Hiệu suất tổng thể mơ hình G DT hành vi liệu tự thu thập 29 ảng 4-1: Mơ tả thành phần thiết kế chƣơng trình thử nghiệm 38 DANH MỤC VIẾT TẮT GDBT Gradient Boosted Decision Tree k-NN K-Nearest Neighbors SVM Support Vector Machine RF Random Forest MVC Model – View – Controller CSDL Cơ sở liệu DBMS Database Management System API Application Programming Interface CHƢƠNG 1: TỔNG QUAN VỀ ĐỀ TÀI NGHIÊN CỨU 1.1 Yêu cầu thực tiễn Trong chăn nuôi ngày nay, vấn đề sức khoẻ gia súc có liên quan trực tiếp đến sản lƣợng Đối với đàn bị sữa, để trì sức khỏe sản lƣợng sữa chất lƣợng cao chức sinh sản, ngƣời chăn nuôi phải đảm bảo điều kiện tốt [1] Một biểu dễ nhận thấy sức khoẻ gia súc biểu hành vi chúng Hành vi yếu tố quan trọng để đánh giá sức khoẻ tình trạng sức khoẻ bị sữa [2] Gia súc thay đổi hành vi chúng để đối phó với yếu tố nhƣ chấn thƣơng, bệnh dịch thay đổi môi trƣờng xã hội [3] Việc đánh giá hành vi chủ yếu thông qua kinh nghiệm ngƣời chăn ni, nhƣng khó phát cách tập trung trực quan, đặc biệt đàn gia súc lớn thiếu thời gian lao động [4] Một phƣơng pháp xác, nhanh chóng chi phí thấp để theo dõi mơ hình hành vi nhƣ biện pháp hỗ trợ việc đánh giá sức khỏe phúc lợi bò có lợi Sử dụng cảm biến đeo thể cung cấp giải pháp khả thi cho vấn đề này, cho phép theo dõi hành vi đàn gia súc đo lƣờng quy mô lớn, nhiên điều thành cơng đầu cảm biến đƣợc diễn giải xác theo thời gian thực Theo dõi hành vi gia súc cách sử dụng cảm biến trở thành giải pháp phổ biến chƣơng trình quản lý trang trại chọn lọc di truyền [4] Cách tiếp cận tập trung nhiều vào sức khoẻ hiệu suất cá thể cách tiếp cận dựa bầy đàn truyền thống Tuy nhiên, việc thu thập giải thích liệu thu đƣợc từ cảm biến nhằm mô tả loại hành vi cá thể mang lại thách thức nghiêm trọng cho nhà phát triển ài toán liên quan đến độ phức tạp hành vi (tức số hành vi có chứa cử tƣơng tự), đến việc trích xuất tính liên quan cho phép phân biệt hành vi, việc mát liệu đặc trƣng cho cảm biến phát không dây, việc xử lý liệu để đối phó với nhiễu vốn có phép đo thu thập [5] 44 Hoàn cảnh sử dụng phụ (thay thế) trƣờng hợp không thành công: Hành động liên quan xảy sau Usecase kết thúc: Ngƣời dùng quản trị quay danh sách gia súc khả dụng 4.4.4 Quản lý thông tin liệu huấn luyện mơ hình ình 4-9: Sơ đồ usecase nhóm chức quản lý liệu huấn luyện Tên Usecase: Ngƣời sử dụng Mức độ BMT: Tác nhân chính: Ngƣời sử dụng Tác nhân phụ: Mơ tả Usecase: Tải lên liệu huấn luyện cho cá thể gia súc dƣới dạng file xls Điều kiện để bắt đầu Usecase: Ngƣời dùng có tài khoản hệ thống đăng nhập Điều kiện để kết thúc Usecase: Upload thành công liệu huấn luyện gia súc Trình tự kiện trình hoạt động Usecase: ƣớc 1: Từ menu trái chọn “Dữ liệu huấn luyện”, ngƣời dùng đƣợc chuyển đến danh sách ƣớc 2: Chọn „Add‟ 45 ƣớc 3: Chọn cá thể gia súc bò sữa mà liệu gắn với với chọn file excel từ máy tính ƣớc 4: Nhấn „OK‟ để tải lên Hoàn cảnh sử dụng thành công bản: Thao tác upload thành công việc huấn luyện mơ hình bắt đầu đƣợc thực thi tác vụ máy chủ Hoàn cảnh sử dụng phụ (thay thế) trƣờng hợp không thành công: Hành động liên quan xảy sau Usecase kết thúc: Ngƣời dùng quản trị quay danh sách liệu upload 4.4.5 Quản lý liệu suy luận kế phân loại ình 4-10: Sơ đồ usecase nhóm chức quản lý liệu suy luận Tên Usecase: Ngƣời sử dụng Mức độ BMT: Tác nhân chính: Ngƣời sử dụng Tác nhân phụ: Mơ tả Usecase: Tải lên liệu suy luận cho cá thể gia súc dƣới dạng file xls Điều kiện để bắt đầu Usecase: 46 Ngƣời dùng có tài khoản hệ thống đăng nhập Điều kiện để kết thúc Usecase: Upload thành công liệu suy luận gia súc Trình tự kiện trình hoạt động Usecase: ƣớc 1: Từ menu trái chọn “Dữ liệu suy luận” (Inferrence data), ngƣời dùng đƣợc chuyển đến danh sách ƣớc 2: Chọn „Add‟ ƣớc 3: Chọn cá thể gia súc bò sữa mà liệu gắn với với chọn file excel từ máy tính ƣớc 4: Nhấn „OK‟ để tải lên Hồn cảnh sử dụng thành công bản: Thao tác upload thành công việc suy luận kết đánh giá bắt đầu đƣợc thực thi tác vụ máy chủ Hoàn cảnh sử dụng phụ (thay thế) trƣờng hợp không thành công: Hành động liên quan xảy sau Usecase kết thúc: Ngƣời dùng quản trị quay danh sách liệu upload 4.5 Giao diện chức sử dụng 4.5.1 Quản lý người dùng Trong phạm vi chƣơng trình thử nghiệm, ngƣời sử dụng chƣơng trình đƣợc coi ngƣời truy cập vào liệu trang trại, gia súc, liệu phân loại Do số ngƣời sử dụng ình 4-11: Danh sách người dùng 47 đòi hỏi đăng nhập, đƣợc cấp quyền định hệ thống Hình 4-6 ví dụ danh sách ngƣời dùng trang dashboard N gồi nhóm tài khoản quản trị (Admin) có tồn quyền hạn, nhóm tài khoản khác Staff thêm thay đổi thơng tin ngƣời dùng khác ngồi 4.5.2 Quản lý thơng tin trang trại Bị sữa thƣờng đƣợc chăn ni theo đàn lớn thành trang trại, chức quản lý trang trại ngƣời dùng bao gồm Liệt kê, Thêm, Sửa, Xóa trang trại Hai thuộc tính đối tƣợng “Trang trại” gồm Tên Địa ình 4-12: Chức liệt kê trang trại ình 4-13: Chức thêm, sửa, xóa trang trại 48 4.5.3 Quản lý cá thể bò sữa liệu Cũng giống nhƣ chức quản lý Trang trại, chức quản lý cá thể gia súc bao gồm thêm, sửa, xóa đối tƣợng bị sữa Đối với chức ình 4-14: Chức liệt kê danh sách cá thể bị sữa thêm bị sữa, thuộc tính bao gồm: Tên, Ngày sinh, Giới tính, Cân nặng, Giống bò (bao gồm giống bố mẹ), kèm theo Trang trại nơi cá thể đƣợc chăn ni chọn từ dropdown menu: ình 4-15: Chức thêm, sửa, xóa cá thể bị sữa 4.5.4 Quản lý liệu huấn luyện mơ hình huấn luyện Ngƣời sử dụng trực tiếp huấn luyện mơ hình phân loại cách tiện lợi cho cá thể bò phần mềm thử nghiệm Thao tác đƣợc thực việc tải lên file excel (theo format định sẵn) chứa liệu cảm biến gia tốc 49 đối tƣợng bò sữa để huấn luyện mơ hình Sau việc q trình huấn luyện mơ hình đƣợc tiến hành thơng qua tác vụ chạy (background task), tác vụ đƣợc khởi tạo quản lý Celery Redis nhƣ mô tả mục 4.3.4 ình 4-16: Huấn luyện mơ hình cho cá thể bị sữa Một cá thể bị sữa có nhiều mơ hình phân loại đƣợc huấn luyện tập liệu khác nhƣ hình 4-12 Ngƣời sử dụng tải lên tập liệu khác để huấn luyện mơ hình cho cá thể có sẵn mơ hình phân loại từ trƣớc Tuy nhiên, có mơ hình đƣợc sử dụng cho việc suy luận phân loại (inference) sau Ở đây, mơ hình đƣợc mặc định mơ hình đƣợc tạo ình 4-17: Danh sách tập liệu huấn luyện Kết việc huấn luyện mơ hình đƣợc kiểm tra từ lịch sử tác vụ chạy Celery (hình 4-13): 50 ình 4-18: Lịch sử kết tác vụ huấn luyện mơ hình phân loại 4.5.5 Quản lý liệu suy luận kết phân loại Sau có đƣợc mơ hình phân loại từ liệu huấn luyện, việc tiến hành suy luận phân loại liệu đầu vào Nhƣ đƣợc đề cập mục ình 4-19: Danh sách tập liệu phân loại tải lên thủ công 4.1, có hai cách để nạp liệu vào hệ thống Cách thứ thủ công việc 51 tải lên file excel nhƣ liệu huấn luyện (hình 4-14), sau q trình suy luận đƣợc thực thi tác vụ chạy Celery Sau tác vụ chạy ình 4-20: Tải lên liệu phục vụ phân loại hành vi ình 4-21: Kết suy luận từ liệu tải lên kết thúc, kết phân loại đƣợc tự động cập nhật nhƣ ví dụ hình 4-16 Cách thứ hai để nạp liệu suy luận vào hệ thống tự động đẩy liệu thô từ cảm biến gia tốc đến máy chủ thông qua HTTP API Ở phía thiết bị cảm biến gia tốc, việc đƣợc thực phƣơng thức POST với định dạng liệu json 52 POST /api/2.2/auth/inference HTTP/1.1 HOST: testserver.com Content-Type:application/json Accept:application/json { "data": { "type": "inference-data", "cattle-id": "123", "time": "2020-08-22T08:56:29.000Z", "x-axis": "-0.93", "y-axis": "0.08", "z-axis": "-0.01", } } Sau đó, việc xử lý chia đoạn liệu, suy luận phân loại tự động đƣợc thực thi tiền trình chạy Celery 4.5.6 Thống kê kết Một chức quan trọng thống kê hoạt động cá thể bò sữa theo ngày theo khoảng thời gian định Điều cho phép ngƣời chăn nuôi nhận diện cách trực quan định tính bất thƣờng hoạt động mõi cá thể, giúp phát sớm bệnh tật bất thƣờng Hình 4-17 đồ thị thông tin hành vi cá thể ngày gần ình 4-22: Thống kê hành vi cá thể bò sữa ngày gần 53 CHƢƠNG 5: KẾT LUẬN Cảm biến gia tốc đƣợc sử dụng để nhận biết kiểu hành vi khác gia súc Luận văn thiết kế cơng cụ ƣớc tính hành vi bị phân loại liệu gia tốc thành bảy trạng thái chuyển động: ăn, nằm, đứng, nằm, đứng lên, bình thƣờng, nhanh Các đặc trƣng cho liệu gia tốc hành vi đƣợc nghiên cứu áp dụng số mơ hình phân loại Việc sử dụng hợp lý đặc trƣng thống kê cho độ xác tổng thể tốt 86% Kết cho thấy hành vi quan trọng bị sữa đƣợc phân loại xác cách sử dụng thuật tốn Gradient Boosted Decision Tree đơn giản đƣợc áp dụng cho liệu đƣợc thu thập từ máy đo gia tốc ba trục gắn chân Sử dụng kết phép phân loại này, luận văn đề xuất xây dựng phần mềm thử nghiệm tảng web nhằm quản lý liệu cách tập trung, đồng thời tiến hành huấn luyện mơ hình phân loại sử dụng mơ hình phân loại để tiến hành suy luận dự đoán liệu hành vi đƣợc nạp vào Ngồi ra, chƣơng trình cịn có chức thống kê kết phân loại theo ngày nhằm theo dõi hoạt động sức khỏe cá thể bò sữa 54 TÀI LIỆU THAM KHẢO [1] European Commission Directorate General for Health and Food Safety (2017) Welfare of cattle on dairy farms: overview report Publications Office https://doi.org/10.2875/815860 [2] Porto, S M C., et al "Localisation and identification performances of a real-time location system based on ultra wide band technology for monitoring and tracking dairy cow behaviour in a semi-open free-stall barn." Computers and Electronics in Agriculture 108 (2014): 221-229 [3] Rahman, Ashfaqur, et al "Cattle behaviour classification from collar, halter, and ear tag sensors." Information processing in agriculture 5.1 (2018): 124-133 [4] Wang, Jun, et al "Development and validation of an ensemble classifier for realtime recognition of cow behavior patterns from accelerometer data and location data." PloS one 13.9 (2018): e0203546 [5] Atallah, Louis, et al "Sensor positioning for activity recognition using wearable accelerometers." IEEE transactions on biomedical circuits and systems 5.4 (2011): 320-329 [6] Davila, Juan Carlos, Ana-Maria Cretu, and Marek Zaremba "Wearable sensor data classification for human activity recognition based on an iterative learning framework." Sensors 17.6 (2017): 1287 [7] Zehner, Nils, et al "System specification and validation of a noseband pressure sensor for measurement of ruminating and eating behavior in stable-fed cows." Computers and Electronics in Agriculture 136 (2017): 31-41 [8] Müller, Roger, and Lars Schrader "A new method to measure behavioural activity levels in dairy cows." Applied Animal Behaviour Science 83.4 (2003): 247-258 55 [9] O‟Driscoll, Keelin, Laura oyle, and Alison Hanlon "A brief note on the validation of a system for recording lying behaviour in dairy cows." Applied Animal Behaviour Science 111.1-2 (2008): 195-200 [10] Sugiyama, Masashi, and Motoaki Kawanabe Machine learning in non-stationary environments: Introduction to covariate shift adaptation MIT press, 2012 [11] Mohri, M., Rostamizadeh, A., & Talwalkar, A (2018) Foundations of machine learning MIT press [12] Borchers, M R., Chang, Y M., Tsai, I C., Wadsworth, B A., & Bewley, J M (2016) A validation of technologies monitoring dairy cow feeding, ruminating, and lying behaviors Journal of dairy science, 99(9), 7458-7466 [13] Shahriar, M S., Smith, D., Rahman, A., Freeman, M., Hills, J., Rawnsley, R., & Bishop-Hurley, G (2016) Detecting heat events in dairy cows using accelerometers and unsupervised learning Computers and electronics in agriculture, 128, 20-26 [14] Arcidiacono, C., Porto, S M C., Mancino, M., & Cascone, G (2017) Development of a threshold-based classifier for real-time recognition of cow feeding and standing behavioural activities from accelerometer data Computers and electronics in agriculture, 134, 124-134 [15] Diosdado, J A V., Barker, Z E., Hodges, H R., Amory, J R., Croft, D P., Bell, N J., & Codling, E A (2015) Classification of behaviour in housed dairy cows using an accelerometer-based activity monitoring system Animal Biotelemetry, 3(1), 1-14 [16] Ravi, N., Dandekar, N., Mysore, P., & Littman, M L (2005, July) Activity recognition from accelerometer data In Aaai (Vol 5, No 2005, pp 1541-1546) [17] Lutz, M (2001) Programming python " O'Reilly Media, Inc." [18] Chun, W (2001) Core python programming (Vol 1) Prentice Hall Professional [19] Hsu, C W., Chang, C C., & Lin, C J (2003) A practical guide to support vector classification 56 [20] Myles, A J., Feudale, R N., Liu, Y., Woody, N A., & Brown, S D (2004) An introduction to decision tree modeling Journal of Chemometrics: A Journal of the Chemometrics Society, 18(6), 275-285 [21] Safavian, S R., & Landgrebe, D (1991) A survey of decision tree classifier methodology IEEE transactions on systems, man, and cybernetics, 21(3), 660-674 [22] James, G., Witten, D., Hastie, T., & Tibshirani, R (2013) An introduction to statistical learning (Vol 112, p 18) New York: springer [23] Twomey, N., Diethe, T., Fafoutis, X., Elsts, A., McConville, R., Flach, P., & Craddock, I (2018, June) A comprehensive study of activity recognition using accelerometers In Informatics (Vol 5, No 2, p 27) Multidisciplinary Digital Publishing Institute [24] Martiskainen, P., Järvinen, M., Skön, J P., Tiirikainen, J., Kolehmainen, M., & Mononen, J (2009) Cow behaviour pattern recognition using a three-dimensional accelerometer and support vector machines Applied animal behaviour science, 119(12), 32-38 [25] Rossant, C (2015) An illustrated introduction to the t-SNE algorithm Oreilly [en línia], [26] Zhao, M., Fu, C., Ji, L., Tang, K., & Zhou, M (2011) Feature selection and parameter optimization for support vector machines: A new approach based on genetic algorithm with feature chromosomes Expert Systems with Applications, 38(5), 51975204 [27] Hoang, Q T., Phung, C P K., Bui, T N., Chu, T P D., & Tran, D T (2018) Cow behavior monitoring using a multidimensional acceleration sensor and multiclass SVM International Journal of Machine Learning and Networked Collaborative Engineering, 2(3), 110-118 [28] Guo, Y., Corke, P., Poulton, G., Wark, T., Bishop-Hurley, G., & Swain, D (2006, November) Animal behaviour understanding using wireless sensor networks In Proceedings 2006 31st IEEE Conference on Local Computer Networks (pp 607-614) IEEE 57 [29] Yoshioka, H., Ito, M., & Tanimoto, Y (2010) Effectiveness of a real-time radiotelemetric pedometer for estrus detection and insemination in Japanese Black cows Journal of Reproduction and Development, 1003190258-1003190258 [30] Tran, T D., Dao, D V., Bui, T T., Nguyen, L T., Nguyen, T P., & Susumu, S (2008, January) Optimum design considerations for a 3-DOF micro accelerometer using nanoscale piezoresistors In 2008 3rd IEEE International Conference on Nano/Micro Engineered and Molecular Systems (pp 770-773) IEEE [31] Tan, T D., Ha, L M., Long, N T., Duc, N D., & Thuy, N P (2007, November) Integration of inertial navigation system and global positioning system: Performance analysis and measurements In 2007 International Conference on Intelligent and Advanced Systems (pp 1047-1050) IEEE [32] Luu, Manh Ha, Duc Tan Tran, Thanh Long Nguyen, Dinh Duc Nguyen, and Phu Thuy Nguyen "Errors determination of the MEMS IMU." (2006) VNU Journal of Science: Mathematics-Physics 22, no [33] Van, T N., Duc, T C., & Duc-Tan, T (2015) Application of street tracking algorithm in an INS/GPS integrated navigation system IETE Journal of Research, 61(3), 251-258 [34] Pham, V T., Nguyen, D A., Dang, N D., Pham, H H., Tran, V A., Sandrasegaran, K., & Tran, D T (2018) Highly accurate step counting at various walking states using low-cost inertial measurement unit support indoor positioning system Sensors, 18(10), 3186 [35] Tan, T D., Anh, N T., & Anh, G Q (2011, January) Low-cost Structural Health Monitoring scheme using MEMS-based accelerometers In 2011 Second International Conference on Intelligent Systems, Modelling and Simulation (pp 217-220) IEEE [36] Khanh, P C P., Long, T T., Chinh, N D., & Duc-Tan, T (2018, January) Performance evaluation of a multi-stage classification for cow behavior In 2018 2nd International Conference on Recent Advances in Signal Telecommunications & Computing (SigTelCom) (pp 121-125) IEEE Processing, 58 [37] Cong Phi Khanh, P., Tran, D T., Van Duong, T., Hong Thinh, N., & Tran, D N (2020) The new design of cows' behavior classifier based on acceleration data and proposed feature set Mathematical Biosciences and Engineering, 17(4), 2760-2780 [38] Phung Cong Phi, K., Nguyen Thi, K., Nguyen Dinh, C., Tran Duc, N., & Tran Duc, T (2019) Classification of cow‟s behaviors based on 3-DoF accelerations from cow‟s movements International Journal of Electrical and Computer Engineering, 9(3), 1656-1662 ... GIÁO DỤC VÀ ĐÀO TẠO VI? ??N HÀN LÂM KHOA HỌC VÀ CÔNG NGHỆ VN HỌC VI? ??N KHOA HỌC VÀ CÔNG NGHỆ Nguyễn Vi? ??t Anh NGHIÊN CỨU VÀ THỬ NGHIỆM PHẦN MỀM PHÂN LOẠI HÀNH VI BÒ SỬ DỤNG THUẬT TỐN CÂY QUYẾT ĐỊNH Chun... Positives: Tổng hành vi đƣợc phân loại với nhãn  False Negatives: Tổng hành vi bị phân loại sai thành hành vi khác  False Positives: Tổng hành vi khác bị phân loại thành hành vi xem xét  True... giám sát đƣợc sử dụng phổ biến toán phân loại, hồi quy xếp hạng [11] 2.3 Các thuật toán phân loại phổ biến Năm thuật toán phân loại kinh điển sau đƣợc đề xuất để đánh giá luận văn này: Decision