Nghiên cứu xây dựng mô hình dự đoán lượng tiêu thụ và tự động co dãn tài nguyên trong môi trường phân tán

Nghiên cứu xây dựng mô hình dự đoán lượng tiêu thụ và tự động co dãn tài nguyên trong môi trường phân tán Nghiên cứu xây dựng mô hình dự đoán lượng tiêu thụ và tự động co dãn tài nguyên trong môi trường phân tán luận văn tốt nghiệp thạc sĩ

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI TRẦN ĐỨC NHUẬN TRẦN ĐỨC NHUẬN HỆ THỐNG THƠNG TIN NGHIÊN CỨU XÂY DỰNG MƠ HÌNH DỰ ĐỐN LƯỢNG TIÊU THỤ VÀ TỰ ĐỘNG CO DÃN TÀI NGUYÊN TRONG MÔI TRƯỜNG PHÂN TÁN LUẬN VĂN THẠC SĨ KHOA HỌC Hệ thống thông tin 2017A Hà Nội – Năm 2018 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI TRẦN ĐỨC NHUẬN NGHIÊN CỨU XÂY DỰNG MƠ HÌNH DỰ ĐỐN LƯỢNG TIÊU THỤ VÀ TỰ ĐỘNG CO DÃN TÀI NGUYÊN TRONG MÔI TRƯỜNG PHÂN TÁN Chuyên ngành : Hệ thống thông tin LUẬN VĂN THẠC SĨ KHOA HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC : TS Nguyễn Bình Minh Hà Nội – Năm 2018 Lời cảm ơn Đầu tiên, xin gửi lời cảm ơn chân thành đến thầy giáo, cô giáo thuộc trường đại học Bách Khoa Hà Nội, đặc biệt thầy giáo, cô giáo thuộc Viện Công nghệ Thông tin Truyền Thông Đồng thời xin gửi lời cảm ơn đặc biệt đến TS Nguyễn Bình Minh Thầy người dẫn tận tình, cho tơi kinh nghiệm q báu để hồn thành luận văn Tôi xin gửi lời cảm ơn tới gia đình Sự sát cánh động viên tinh thần từ gia đình ln động lực để tơi tiến lên phía trước Lời cam đoan Tơi - Trần Đức Nhuận - cam kết luận văn cơng trình nghiên cứu thân hướng dẫn TS Nguyễn Bình Minh Các kết nêu luân vặn trung thực, chép cơng trình cơng bố khác Tất trích dẫn tham chiếu rõ ràng Hà Nội, ngày 31 tháng năm 2018 Tác giả luận văn Trần Đức Nhuận Xác nhận người hướng dẫn Tóm tắt Gần đây, mơ hình điện toán đám mây trở nên phổ biến nhiều tổ chức Mơ hình cho phép người sử dụng trả phí theo nhu cầu (pay-as-you-go) đáp ứng phát triển tự nhiên tổ chức Các tài nguyên ĐTĐM tăng giảm cách mềm dẻo, tận dụng tối đa tài ngun tính tốn giảm thiểu nguy cung cấp thừa, gây lãng phí tránh cung cấp không đủ dẫn tới việc khách hàng tiềm Khi sử dụng dịch vụ điện toán đám mây, khách hàng nhà cung cấp đồng ý với điểu khoản định nghĩa SLA, bao gồm độ đo chất lượng dịch vụ khác (Quality of Service) Vì phía lập trình viên, họ cần bảo đảm chất lượng dịch vụ cung cấp cho người dùng cuối Tuy vậy, ứng dụng triển khai đám chịu ảnh hưởng chất lượng cung cấp tài nguyên từ phía nhà cung cấp dịch vụ Một hướng tiếp cận nhằm tăng chất lượng dịch vụ sử dụng mơ hình học máy dự đoán lượng tài nguyên sử dụng tương lai Trong luận án này, chúng tơi trình bày giải pháp tự động khả mở tài nguyên cho môi trường điện tốn đám mây dựa mơ hình máy học Ở đó, liệu tiêu thụ tài nguyên sử dụng thu thập từ máy ảo khác nhau, hệ thống sử dụng kĩ thuật mờ hóa, phát mối tương quan để phân tích liệu q kứ Luận án đề xuất mơ hình Multivariate Fuzzy Long Short Term Memory (MF-LSTM) cho phép dự đoán lượng sử dụng tài nguyên tương lai Từ đó, hệ thống tính tốn số lượng máy ảo cần thiết thời gian tới, bảo đảm tối ưu hiệu điện tránh dư thừa lãng phí Mơ hình đề xuất sử dụng liệu tiêu thụ tài nguyên sử dụng cụm máy chủ Google thực tế Những thí nghiệm liệu thử nghiệm mơ hình đề xuất có chất lượng tốt phần lớn trường hợp so sánh với mơ hình khác Abstract Cloud computing has emerged as an optimal option for almost all computations problems today One of the most advanced features is pay-as-go-go fashion, allowed user to provide computational resource adequately and flexible This helps to reduce the renting resource cost to the minimum Using cloud services, customers and cloud providers will come to term with usage conditions defined in Service Layer Agreement (SLA), which specify acceptable Quality of Service (QoS) metric levels In term of software developer, they must guarantee quality of service for their end users However, the performance of application depends on the influence of resource QoS provided by cloud infrastructure vendors One of the important challenge in clouds today is how to improve QoS of computing resources Many research deal with the problem by using prediction time series model In this thesis, we propose a comprehensive autoscaling solution for clouds based on forecasting resource consumption in the future At first, our prediction mode leverages the advantage of fuzzy approach, entropy correlation and stacked Long Short Term Memory to process historical monitoring time series data After that, scaling decision is validated and adapted through evaluating SLA violations The solution is tested on real workload dataset from Google cluster The achieved results show significant increase in efficiency than other baseline models Mục lục Lời cảm ơn Lời cam đoan Tóm tắt Abstract Danh sách thuật ngữ Danh sách hình vẽ Danh sách bảng 11 Tổng quan 12 Các nghiên cứu liên quan 15 2.1 Tổng quan điện toán đám mây 15 2.1.1 Khái niệm 15 2.1.2 Mơ hình dịch vụ 16 2.1.3 Mơ hình triển khai 18 2.2 Vấn đề cung cấp tài nguyên 19 2.3 Các phương pháp dự đoán chuỗi thời gian 22 2.3.1 Nghiên cứu tổng quan 22 2.3.2 Phương pháp tuyến tính 24 2.3.3 Phương pháp mạng nơ-ron nhân tạo 25 2.3.4 Phương pháp học sâu - Deep Learning 28 2.3.5 Chuỗi thời gian mờ - Fuzzy Time Series 31 Các phương pháp phân tích mối tương quan nhiều chiều 32 2.4 Mơ hình đề xuất 34 3.1 Kiến trúc hệ thống 34 3.2 Tiền xử lý liệu 35 3.3 Trích chọn đặc trưng 37 3.4 Huấn luyện mơ hình 38 3.5 Dự đoán tài nguyên sử dụng 40 3.6 Đánh giá chất lượng dịch vụ 40 3.6.1 Đánh giá tỉ lệ vi phạm SLA 40 3.6.2 Sự định khả mở tài nguyên 41 Thử nghiệm đánh giá 4.1 43 Thiết lập thử nghiệm 43 4.1.1 Dữ liệu 43 4.1.2 Độ đo đánh giá 44 4.2 Thử nghiệm phương pháp mờ hóa 44 4.3 Trích chọn đặc trưng 45 4.4 Dự đoán 46 4.4.1 Thử nghiệm mơ hình đơn biến - đa biến 47 4.4.2 Thử nghiệm mơ hình đa biến MF-LSTM với mơ hình khác 50 Thử nghiệm định 52 4.5 Kết luận 57 Tài liệu tham khảo 58 Danh sách thuật ngữ ĐTĐM Điện tốn đám mây IOT Internet of Things Auto-scaling Tự động co dãn tài nguyên SLA Cam kết chất lượng dịch vụ (Service Level Agreement) Artificial Neural network Mạng nơ-ron nhân tạo Back propagation Lan truyền ngược LSTM Long Short Term Memory Danh sách hình vẽ 1.1 Sự cung cấp tài nguyên theo nhu cầu (nguồn: LogicMonitor) 13 1.2 Dung lượng liệu truyền tải IoT 13 2.1 Mơ hình triển khai ĐTĐM 16 2.2 Mơ hình hệ thống khả mở 19 2.3 Sự cung cấp tài nguyên theo nhu cầu (nguồn: harishblogspot) 20 2.4 Mơ hình Periodicity (nguồn slideshare ) 21 2.5 Mạng nơ-ron nhân tạo nhiều tầng 26 2.6 Mô hướng đạo hàm 27 2.7 Recurrent Neural Network 28 2.8 Recurrent Neural Network 29 2.9 Mơ hình mạng LSTM [9] 30 3.1 Kiến trúc tổng quan mơ hình tự động khả mở MF-LSTM 35 3.2 Mức độ tiêu thụ CPU theo thời gian job cụm máy chủ Gooogle 36 3.3 Mơ hình LSTM học quan hệ mờ 38 4.1 Chuỗi liệu CPU trước sau áp dụng kĩ thuật mờ hóa 45 4.2 Mối tương quan nhiều chiều liệu 46 4.3 Mối tương quan nhiều chiều cho độ đo 47 4.4 Kết dự đốn CPU mơ hình đơn biến Fuzzy GABPNN với p = 48 4.5 Kết dự đoán Memory mơ hình đơn biến Fuzzy GABPNN với p = 48 4.6 Kết dự đốn CPU mơ hình đơn biến MF-GABPNN với p = 48 4.7 Kết dự đoán Memory mơ hình đơn biến MF-GABPNN với p = 48 4.8 Kết dự đoán CPU với cửa sổ trượt khác mơ hình MF-BPNN and MF-GABPNN 4.9 48 Kết dự đoán Memory với cửa sổ trượt khác mơ hình MF-BPNN and MF-GABPNN 48 4.10 Kết dự đoán CPU với cửa sổ trượt = sử dụng MF-LSTM với δ khác 50 Correlation of metrics 1.00 sampled_cpu_usage 0.81 0.71 0.72 0.68 0.68 0.71 -0.008 -0.3 0.89 0.12 0.9 0.83 mai 0.83 0.74 0.75 0.7 0.7 0.73 -0.024 -0.28 0.92 0.1 0.93 0.83 cpi 0.9 0.8 0.81 0.77 0.77 0.8 -0.13 -0.26 0.99 0.0074 0.93 0.9 max_disk_io_time 0.12 0.13 0.15 0.12 0.12 0.13 0.88 -0.38 0.054 max_cpu_usage 0.89 0.8 0.81 0.76 0.76 0.79 -0.081 -0.24 mean_local_disk_space -0.3 -0.37 -0.37 -0.39 -0.39 -0.38 0.62 0.59 AssignMem 0.72 CMU 0.71 0.63 0.59 0.63 0.58 0.71 0.72 0.68 -0.26 -0.28 -0.3 -0.13 -0.024 -0.008 0.011 -0.38 0.79 0.13 0.8 0.73 0.71 0.58 -0.0067 -0.39 0.76 0.12 0.77 0.7 0.68 0.62 0.58 -0.0075 -0.39 0.76 0.12 0.77 0.7 0.68 0.6 0.63 0.021 -0.37 0.81 0.15 0.81 0.75 0.72 0.58 0.62 0.0065 -0.37 0.8 0.13 0.8 0.74 0.71 0.68 0.71 -0.0053 -0.3 0.89 0.12 0.9 0.83 0.81 cpi unmapped_cache_usage 0.68 -0.38 mai 0.68 -0.24 -0.45 -0.081 0.88 max_cpu_usage page_cache_usage 0.58 0.89 max_disk_io_time 0.6 0.58 unmapped_cache_usage 0.62 0.12 0.92 mean_local_disk_space 0.58 CMU 0.71 0.1 0.99 max_mem_usage 0.58 AssignMem max_mem_usage -0.45 0.0074 0.054 page_cache_usage 0.63 CPU usage mean_diskIO_time -0.0053 0.0065 0.021 -0.0075 -0.0067 0.011 1 0.75 0.50 0.25 0.25 sampled_cpu_usage CPU usage mean_diskIO_time 0.00 Hình 4.2: Mối tương quan nhiều chiều liệu δ = 0.8 δ = 0.45 δ = 0.3 Disk io time Disk io time Disk io time Local disk space Local disk space Local disk space Disk io time Disk io time Disk io time Local disk space Local disk space Local disk space CPU Memory Bảng 4.1: Kết lựa chọn đặc trưng đĩa không gian dung lượng sử dụng Các mối tương quan thu với ngưỡng δ định nghĩa bảng 4.1 Với ngưỡng khác nhau, metric lựa chọn tô màu xám Ví dụ với δ = 0.8, khơng chọn cặp giá trị tương quan disk io time local disk space với cặp CPU-memory khơng thỏa mãn điều kiện dịng 14 thuật toán Tương tự với δ = 0.45, chọn local disk space với δ = 0.3, ta chọn tất metric vào pha 4.4 Dự đốn Thí nghiệm tập trung so sánh kết dự đoán mơ hình MF-LSTM với mơ hình BPNN, MF-GABPNN, MF-BPNN chứng minh hiệu mơ hình đề xuất với tốn Ở ta có, với mơ hình đơn biến, metric mơ hình dự đốn tách biệt với mơ hình đa biến, thuật toán lựa chọn metric cách thay đổi ngưỡng khác δ khác mơ-đun trích chọn đặc trưng 46 CPU Memory Disk IO time Disk space 0.91 0.91 0.49 0.59 0.41 0.48 0.90 0.75 0.60 0.49 0.41 0.26 0.45 0.30 0.59 0.48 0.26 CPU Memory Disk IO time Disk space Hình 4.3: Mối tương quan nhiều chiều cho độ đo Với kết dự đốn metric mơ hình MF-LSTM mơ hình đơn biến, dễ dàng so sánh độ xác mơ hình Bên cạnh đó, siêu tham số thay đổi để so sánh độ xác Kết MAE hiển thị bảng Table 4.4 4.4.1 Thử nghiệm mơ hình đơn biến - đa biến Đầu tiên, thử nghiệm so sánh hiệu phương pháp mờ hóa với mơ hình đơn biến Mơ hình đơn biến mơ hình học riêng biệt metric kết hợp kết dự đốn cuối pha dự đốn Mơ hình đa biến dự đoán đồng thời metric lúc Mơ hình lựa chọn thử nghiệm BPNN GABPNN Kết thử nghiệm minh họa bảng 4.3 4.2 Từ bảng, ta thấy mơ hình ưu việt mơ hình Kết dự đốn MAE giảm xuống mà kích thước cửa sổ trượt mơ hình thay đổi Từ bảng, ta thấy mơ hình đa biến cho kết tốt hẳn so với mơ hình đa biến Đặc biệt, Hình 4.4 4.5 mơ hình cho kết xác tồn liệu Bên cạnh đó, phép thử đơn biến, hiệu mơ hình áp dụng fuzzy chưa thực đạt mong đợi Trong mơ hình BPNN đạt kết CPU tốt 0.08647, mơ hình Fuzzy GAPNN thay đổi linh hoạt liệu điểm dao động lớn CPU RAM Ngược lại, với mơ hình Fuzzy GABPNN đa biến (MF-GABPNN), kết dự đốn tốt so với mơ hình đơn biến Kết CPU memory tốt đạt 0.7847 and 0.0523 Các kết nhỏ 50% 11% so với mơ hình đơn biến Từ Hình 4.6 4.7, đường dự đốn sát với 47 Hình 4.4: Kết dự đốn CPU Hình 4.5: Kết dự đốn Memory mơ hình đơn biến Fuzzy GABPNN với mơ hình đơn biến Fuzzy GABPNN với p=4 p=4 Hình 4.6: Kết dự đốn CPU Hình 4.7: Kết dự đốn Memory mơ hình đơn biến MF-GABPNN với mơ hình đơn biến MF-GABPNN với p=4 p=4 Hình 4.8: Kết dự đốn CPU với Hình 4.9: Kết dự đốn Memory cửa sổ trượt khác mơ hình với cửa sổ trượt khác mơ MF-BPNN and MF-GABPNN 48 hình MF-BPNN and MF-GABPNN Kích thước cửa sổ trượt Đa biến Đơn biến Methods p=2 p=3 p=4 p=5 BPNN 1.0519 1.0523 0.8647 0.8805 GABPNN 1.0528 1.0487 0.8731 1.0519 Fuzzy BPNN 1.0527 0.8679 0.8914 1.0528 Fuzzy GABPNN 1.0597 0.8701 1.0519 1.0576 BPNN 0.8848 0.9380 0.8973 0.9127 GABPNN 0.9465 0.8875 0.7959 0.7867 Fuzzy BPNN 1.0328 0.9157 0.8909 0.8842 MF-GABPNN 0.8806 0.7847 0.8364 0.8297 Bảng 4.2: So sánh kết MAE dự đoán metric CPU với cửa sổ trượt p khác Kích thước cửa sổ trượt Đa biến Đơn biến Methods p=2 p=3 p=4 p=5 BPNN 0.1232 0.1426 0.1028 0.0864 GABPNN 0.1173 0.0991 0.1387 0.1222 Fuzzy BPNN 0.1034 0.1416 0.0874 0.1113 Fuzzy GABPNN 0.0991 0.1387 0.1232 0.1034 BPNN 0.0639 0.0587 0.0534 0.0726 GABPNN 0.0723 0.0602 0.0524 0.0561 Fuzzy BPNN 0.0731 0.0547 0.0589 0.0615 MF-GABPNN 0.0704 0.0528 0.0523 0.0593 Bảng 4.3: So sánh kết MAE dự đoán metric RAM với cửa sổ trượt p khác 49 Metrics CPU Memory Models p=2 p=3 p=4 p=5 p=2 p=3 p=4 p=5 MF-LSTM with δ = 0.8 0.3221 0.3318 0.3383 0.3259 0.0303 0.0305 0.0309 0.0307 MF-LSTM with δ = 0.45 0.3546 0.3745 0.3673 0.3866 0.0341 0.0339 0.0328 0.0361 MF-LSTM with δ = 0.3 0.4244 0.4075 0.4058 0.4335 0.0377 0.0368 0.0423 0.0419 Bảng 4.4: Kết dự đoán MAE metric CPU RAM mơ hình MF-LSTM với giá trị δ khác Hình 4.10: Kết dự đốn CPU với cửa sổ trượt = sử dụng MF-LSTM với δ khác đường liệu thực tế Nói cách khác, kết MAE nhỏ, kết dự đốn xác Hình 4.8 4.9 so sánh kết dự đốn mơ hình với cửa sổ trượt khác Từ hình đó, ta thấy giá trị MAE mơ hình MF-GABPNN nhỏ so với mơ hình MF-BPNN Khi cửa sổ trượt tăng từ tới 16, kết MF-GABPNN hoàn toàn nhỏ MF-BPNN, minh chứng hiệu mơ hình đa biến sử dụng phương pháp mờ hóa 4.4.2 Thử nghiệm mơ hình đa biến MF-LSTM với mơ hình khác Nội dung phần thử nghiệm tập trung so sánh kết dự đốn mơ hình MF-LSTM với mơ hình đa biến trình bày mục nhằm chứng minh tính ưu việt mơ hình đề xuất Thử nghiệm bao gồm so sánh kết MAE mơ hình với kích thước cửa sổ trượt khác nhau, so sánh khác MAE thay đổi siêu tham số mơ hình MF-LSTM gồm kích thước cửa sổ trượt Từ bảng 4.4, dễ dàng nhận thấy giá trị dự đốn mơ hình nhỏ thấp so với mơ hình truyền thống trình bày mục Cụ thể giá trị thấp đạt với liệu CPU 0.3221 với liệu Memory 0.0303, δ = 0.8, p = Với giá trị cửa sổ trượt p tăng 50 MF-LSTM (p = 2, θ = 8) Predict Actual CPU 0 50 100 Time (minutes) 150 Hình 4.11: Kết dự đốn CPU sử dụng MF-LSTM với δ khác Hình 4.12: Kết dự đoán memory sử dụng MF-LSTM với δ khác 51 200 Hình 4.13: Kết dự đốn memory sử dụng MF-LSTM với δ khác kết MAE tăng, độ xác mơ hình giảm Kết minh hoạ đường dự đốn mơ hình minh hoạ hình 4.10, 4.11, 4.13, 4.12 Dễ dàng nhận thấy đường dự đốn sinh mơ hình MF-LSTM bám sát so với đường thực tế toàn thời gian kiểm nghiệm Đặc biệt, mơ hình có khả dự đoán điểm đột biến lên xuống Ví dụ hình dự đốn CPU 4.10 Memory 4.13, ta thấy CPU Memory job có mối quan hệ chặt chẽ đồng biến, điểm đột biến liệu CPU dự đoán cách kết hợp với liệu Memory Điều thể mơ hình học mối quan hệ CPU Memory để đưa kết dự đốn xác 4.5 Thử nghiệm định Nội dung thử nghiệm nhằm chứng minh độ xác việc định sử dụng kết dự đoán thu pha trước cách đánh giá tổng số lần vi phạm SLA Như trình bày phần trước, hệ thống giả thiết SLA bị vi phạm số lượng tài nguyên tài nguyên mà ứng dụng yêu cầu nhỏ lượng cung cấp Phần sử dụng hai độ đo để ước lượng hiệu mơ hình tự động khả mở Đầu tiên, hệ thống sử dụng mức độ vi phạm SLA gọi SLA Violation Time Percentage (SLAVTP), công thức phía SLAV T P = Tunder−provisioning Texecution (4.3) Tunder−provisioning tổng thời gian có loại tài nguyên cung cấp cho ứng dụng bị thiếu hụt so với nhu cầu thực tế, Texecution tổng thời gian ứng dụng chạy thực tế ĐTĐM Độ đo thứ hai, sử dụng [14] Độ đo tính tới việc giảm thiếu SLA số lượng tài nguyên cung cấp thừa có khả bị thừa nhiều, dần tới lãng phí điện chi phí sử dụng Hệ thống mong muốn đảm bảo giữ độ tiêu thụ tài nguyên mức định Mức 52 độ tiêu thụ tài nguyên định nghĩ phần trăm tài nguyên sử dụng toàn thời gian ứng dụng hoạt động Tỉ lệ sử dụng tài nguyên hệ thống ổn định khoảng với L U cận cận ≤ L ≤ U ≤ 1.0 Ở [14], số Autoscaling Demand Index đề xuất để đánh giá mức độ tiêu thụ tài nguyên Autoscaling Demand Index (ADI) biểu diễn biến σ theo công thức sau: σ= σt , t∈T where    L − ut    σt =     u − U t if ut ≤ L if L < ut < U if ut ≥ U Cụ thể, ADI tổng chênh lệch mức độ tiêu thụ tài nguyên ut [L,U] thời điểm t Tại thời điểm, phương pháp tự động phân bổ tài nguyên tốt cho kết σ nhỏ Hình 4.14 thể số SLAVTP tương ứng với mơ hình dự đốn khác Nhìn tổng quan, mơ hình MF-LSTM cho kết tốt nhỏ gần 60% so với mơ hình cịn lại Đặc biệt, giá trị nhỏ mơ hình đạt 0.08 Hình 4.16 thể mức độ vi phạm tài nguyên mơ hình MF-LSTM MF-GABPNN với độ tiêu thụ CPU theo thời gian Cả mơ hình cho kết định tỉ lệ thuận với mức độ tiêu thụ CPU Tuy nhiên với mơ hình MF-GABPNN, số lượng VM cung cấp thường bị thấp so với nhu cầu sử dụng thực tế dẫn tới hiệu hệ thống bị suy giảm Kết mở rộng tài ngun mơ hình MF-LSTM cung cấp số lượng VM đáp ứng với nhu cầu thực tế, đặc biệt mơ hình đưa định xác liệu CPU bị cao lên bất thường, bảo đảm hiệu hệ thống ổn định Hình 4.15 thể biểu đồ so sánh số ADI mơ hình dự đốn khác với ngưỡng tài nguyên sử dụng chấp nhận vào khoảng [50%,80%] Từ biểu đồ ta thấy số ADI mơ hình MF-LSTM nhỏ hẳn so với mơ hình cịn lại Đặc biệt, kết thu nhỏ hẳn 42% so với mơ hình GABPNN mơ hình đạt tới kết tối ưu 108.26 Kết tốt thể hiệu rõ ràng mơ hình dự đốn tài ngun ảnh hưởng tới chất lượng dịch vụ 53 Hình 4.14: Mức độ vi phạm SLA mơ hình đa biến với p 54 = Hình 4.15: Kết ADI mơ hình dự đoán khác với p = and s = (càng nhỏ tốt) 55 Hình 4.16: Mức độ vi phạm mức độ CPU theo thời gian mơ hình MF-LSTM MF-GABPNN 56 Chương Kết luận Ở luận văn này, tập trung đề xuất thiết kế mơ hình tự động khả mở toán điện toán đám mây Trong nghiên cứu tập trung nhiều vào việc nâng cao chất lượng độ xác dự đốn, mơ hình đề xuất giải pháp tồn diện gồm dự đốn định Ở mơ-đun dự đốn, chúng tơi sử dụng kĩ thuật mờ hóa liệu kết hợp với phương pháp trích chọn đặc trưng nhằm tiền xử lý liệu Mơ hình LSTM huấn luyện nhằm phát quan hệ ẩn bên chuỗi thời gian đa chiều Ở mô-đun định, đề xuất phương pháp tăng/giảm tài nguyên thông tin vi phạm tài nguyên sử dụng phản hồi hệ thống tích hợp với mơ-đun dự đốn để thay đổi định cách linh hoạt phù hợp với hệ thống Tồn mơ hình đề xuất thử nghiệm tập liệu google cluster Các kết đạt tập liệu thử nghiệm cho thấy mơ hình đề xuất chúng tơi cho kết đánh giá tốt so với phương pháp truyền thống khác Những kết hứa hẹn khả phát triển lớn cho mơ hình Trong tương lai, nghiên cứu khai thác thêm khía cạnh điện sử dụng áp dụng mơ hình Việc đảm bảo mức độ tiêu thụ điện hiệu vấn đề triển khai mơ hình vào thực tiễn Bên cạnh đó, chúng tơi nâng cao thêm chất lượng dự đoán cách khai thác sâu vào liệu sử dụng kĩ thuật phân tích khác 57 Tài liệu tham khảo [1] M Alhamad, T Dillon, and E Chang Conceptual sla framework for cloud computing In 4th IEEE International Conference on Digital Ecosystems and Technologies, pages 606–610, April 2010 [2] A Andrzejak, D Kondo, and S Yi Decision model for cloud computing under sla constraints In 2010 IEEE International Symposium on Modeling, Analysis and Simulation of Computer and Telecommunication Systems, pages 257–266, Aug 2010 [3] I Brandic, S Dustdar, T Anstett, D Schumm, F Leymann, and R Konrad Compliant cloud computing (c3): Architecture and language support for user-driven compliance management in clouds In 2010 IEEE 3rd International Conference on Cloud Computing, pages 244–251, July 2010 [4] Kanad Chakraborty, Kishan Mehrotra, Chilukuri K Mohan, and Sanjay Ranka Forecasting the behavior of multivariate time series using neural networks Neural Networks, 5(6):961 – 970, 1992 [5] Tao Chen, Rami Bahsoon, and Xin Yao A survey and taxonomy of self-aware and self-adaptive cloud autoscaling systems ACM Comput Surv., 51:61:1–61:40, 2018 [6] Shifei Ding, Chunyang Su, and Junzhao Yu An optimizing bp neural network algorithm based on genetic algorithm Artificial Intelligence Review, 36(2):153–162, 2011 [7] Erol Egrioglu, Cagdas Hakan Aladag, Ufuk Yolcu, Vedide R Uslu, and Murat A Basaran A new approach based on artificial neural networks for high order multivariate fuzzy time series Expert Systems with Applications, 36(7):10589 – 10594, 2009 [8] V C Emeakaroha, I Brandic, M Maurer, and S Dustdar Low level metrics to high level slas - lom2his framework: Bridging the gap between monitored metrics and sla parameters in cloud environments In High Performance Computing and Simulation (HPCS), 2010 International Conference on, pages 48–54, June 2010 [9] Ian Goodfellow, Yoshua Bengio, and Aaron Courville Deep Learning MIT Press, 2016 http: //www.deeplearningbook.org 58 [10] Sepp Hochreiter and Jă urgen Schmidhuber Long short-term memory Neural Comput., 9(8):1735 1780, November 1997 [11] Chris Chatfield Julian Faraway Time series forecasting with neural networks: A comparative study using the airline data Journal of the Royal Statistical Society Series C (Applied Statistics), 47(2):231–250, 1998 [12] JM Kihoro, RO Otieno, and C Wafula Seasonal time series forecasting: A comparative study of ARIMA and ANN models AJST, 5(2), 2004 [13] Jitendra Kumar, Rimsha Goomer, and Ashutosh Kumar Singh Long short term memory recurrent neural network (lstm-rnn) based workload forecasting model for cloud datacenters Procedia Computer Science, 125:676 – 682, 2018 The 6th International Conference on Smart Computing and Communications [14] M A S Netto, C Cardonha, R L F Cunha, and M D Assuncao Evaluating auto-scaling strategies for cloud computing environments In 2014 IEEE 22nd International Symposium on Modelling, Analysis Simulation of Computer and Telecommunication Systems, pages 187–196, Sept 2014 [15] Charles Reiss, Alexey Tumanov, Ganger, and et al Heterogeneity and dynamicity of clouds at scale: Google trace analysis In Proceedings of the Third ACM Symposium on Cloud Computing, SoCC ’12, pages 7:1–7:13, 2012 [16] Qiang Song and Brad S Chissom Fuzzy time series and its model 54:269–277, 03 1993 [17] D Tran, N Tran, B M Nguyen, and H Le PD-GABP - a novel prediction model applying for elastic applications in distributed environment In 2016 IEEE 3rd National Foundation for Science and Technology Development Conference on Information and Computer Science (NICS), pages 240–245, 2016 [18] Dang Tran, Nhuan Tran, Giang Nguyen, and Binh Minh Nguyen A proactive cloud scaling model based on fuzzy time series and sla awareness Procedia Computer Science, 108:365 – 374, 2017 International Conference on Computational Science, ICCS 2017, 12-14 June 2017, Zurich, Switzerland [19] A Tucker, S Swift, and X Liu Variable grouping in multivariate time series via correlation IEEE Transactions on Systems, Man, and Cybernetics, Part B (Cybernetics), 31(2):235–245, Apr 2001 [20] Jorge R Vergara and Pablo A Estévez A review of feature selection methods based on mutual information Neural Computing and Applications, 24(1):175–186, Jan 2014 59 [21] Ian H Witten and Eibe Frank Data Mining: Practical Machine Learning Tools and Techniques, Second Edition (Morgan Kaufmann Series in Data Management Systems) Morgan Kaufmann Publishers Inc., San Francisco, CA, USA, 2005 [22] Lei Yu and Huan Liu Efficient feature selection via analysis of relevance and redundancy J Mach Learn Res., 5:1205–1224, December 2004 [23] Guoqiang Zhang, B Eddy Patuwo, and Michael Y Hu Forecasting with artificial neural networks: The state of the art International journal of forecasting, 14(1):35–62, 1998 60 ... GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI TRẦN ĐỨC NHUẬN NGHIÊN CỨU XÂY DỰNG MÔ HÌNH DỰ ĐỐN LƯỢNG TIÊU THỤ VÀ TỰ ĐỘNG CO DÃN TÀI NGUYÊN TRONG MÔI TRƯỜNG PHÂN TÁN Chuyên... khả khả mở tài ngun nhanh chóng mà cịn có khả tự động điều chỉnh dựa vào liệu mà cần tương tác người Bằng việc dự đoán tài nguyên sử dụng tương lai, hệ thống tự động định xác lượng tài nguyên cần... SLA toán dự đoán khả mở tương lai điều cần thiết Dựa vào hướng nghiên cứu trên, đóng góp luận án bao gồm: • Xây dựng hệ thống khả mở chủ động môi trường ĐTĐM gồm thành phần: module dự đốn module