Giải pháp autoscaling hỗn hợp cho nền tảng cloud kubernetes

Trong nghiên cứu này, một phương pháp autoscaling dựa trên nhiều thông số tài nguyên và sự linh hoạt chọn lựa phương pháp autoscaling được trình bày nhằm tối ưu hóa tài nguyên sử dụng nhưng vẫn có thể đảm bảo yêu cầu giảm tải trên các container.

Tuyển tập Hội nghị Khoa học thường niên năm 2021 ISBN: 978-604-82-5957-0 GIẢI PHÁP AUTOSCALING HỖN HỢP CHO NỀN TẢNG CLOUD KUBERNETES Đỗ Trường Xuân1, Phạm Thanh Bình1 Trường Đại học Thủy lợi, email: xuandt@tlu.edu.vn GIỚI THIỆU CHUNG Container tảng ảo hóa thu hút nhiều quan tâm giới học thuật công nghiệp Thay ảo hóa phần cứng hệ điều hành máy ảo, container đóng gói thành phần cần thiết để chạy ứng dụng thư viện, file bin, hệ thống file Container mang đến nhiều lợi ích so với máy ảo : nhẹ khởi động dừng nhanh chóng thay q trình khởi động tắt máy ảo thông thường Cùng với đời container có nhiều tảng quản lý triển khai container, bật Kubernetes (K8s) [1] K8s cung cấp chức cân tải (load balancing) container, tối ưu hóa việc triển khai container cụm nốt phần cứng K8s cung cấp chức autoscaling [2] nhằm mục đích thêm vào bớt tài nguyên cho container hay thêm vào nhiều container với chức tương tự nhằm mục giảm tải container tham số giám sát tài nguyên phần cứng (RAM, CPU) bị sử dụng giới hạn Hiện có hai phương pháp sử dụng nhằm thực tính autoscaling K8s autoscaling theo chiều dọc autoscaling theo chiều ngang Autoscaling theo chiều ngang [3] tức tăng giảm số lượng PoD (point of deployment) nhằm mục đích giảm tải container PoD Autoscaling theo chiều dọc [4] tăng giảm tài nguyên PoD Mỗi giải pháp thực dựa việc theo dõi thông số tài nguyên phần cứng mạng Tuy nhiên phương pháp thực dựa vào thông số tài nguyên phương pháp autoscaling Trong nghiên cứu này, phương pháp autoscaling dựa nhiều thông số tài nguyên linh hoạt chọn lựa phương pháp autoscaling trình bày nhằm tối ưu hóa tài nguyên sử dụng đảm bảo yêu cầu giảm tải container Hình Kiến trúc K8s PHƯƠNG PHÁP NGHIÊN CỨU Kiến trúc cụm K8s trình bày Hình Một cụm K8s bao gồm nốt master nhiều nốt worker Nốt worker bao gồm Docker dùng để khởi tạo container Một app K8s triển khai thành PoD PoD bao gồm nhiều container Nốt master chứa controller scheduler để thực việc triển khai app cụm k8s thực thuật toán autoscaling tải 128 Tuyển tập Hội nghị Khoa học thường niên năm 2021 ISBN: 978-604-82-5957-0 Đối với autoscaling ngang, khối controller lấy thông tin theo dõi tài nguyên từ Metric server so sánh với mức ngưỡng cho phép thông số định thay đổi số lượng PoD tương ứng Ví dụ tài nguyên theo dõi mức độ sử dụng CPU Số lượng PoD tính tốn theo cơng thức sau Số lượng PoD = (Tổng số tài nguyên CPU sử dụng tất PoD) / (Mức ngưỡng sử dụng tài nguyên CPU PoD) Đối với autoscaling dọc, khối controller dựa vào thông tin đặc tả PoD theo dõi trình sử dụng tài nguyên PoD thông qua metric server Khối đưa đề xuất CPU RAM theo yêu cầu thực tế sử dụng PoD Những đề xuất controller thực cách viết lại đặc tả PoD Giải pháp autoscaling hỗn hợp đề xuất kết hợp ưu điểm autoscaling ngang autoscaling dọc Giải pháp autoscaling hỗn hợp cần thu thập liệu bao gồm việc sử dụng tài nguyên PoD tài nguyên lại nốt phần cứng Một thành phần thêm vào network controller Network controller thu thập thông tin liên quan đến đường link kết nối PoD bao gồm chi phí mạng cho kết nối PoD Thuật toán lựa chọn autoscaling tiến hành kiểm tra tài nguyên CPU RAM lại nốt, PoD sử dụng ngưỡng CPU RAM cho phép mà tài nguyên node phần cứng cho phép VPA chọn để thực việc mở rộng tài nguyên cho PoD nốt phần cứng dư tài nguyên Còn tài nguyên nốt phần cứng khơng cịn đủ phương án HPA lựa chọn Network controller cung cấp thông tin tài nguyên mạng cần triển khai PoD nốt phần cứng khác Dựa thông số PoD sinh triển khai gần với PoD cũ nhằm mục đích giảm thiểu chi phí mạng Thuật tốn trình bày Hình Metric server CPU and RAM Nếu node thỏa nodes mãn điều kiện tài nguyên Y Sử dụng VPA cho PoD node N Network controller Chọn node có Network đường ngắn topo, topo, tới node băng thông thông băng PoD N Kiểm tra tài nguyên node có thỏa mãn yêu cầu Y Dùng HPA triển khai PoD Hình Thuật tốn autoscaling hỗn hợp KẾT QUẢ NGHIÊN CỨU Yêu cầu gửi tới dịch vụ PoD BW Số tầng mạng N BW_syn Hình Mơ hình mạng dùng để triển khai cụm K8s Ở ta sử dụng tham số băng thông tiêu thụ để so sánh giải pháp autoscaling Ta tính tốn băng thơng tiêu thụ giải pháp: giải pháp hỗn hợp, autoscaling dọc autoscaling ngang sử dụng mơ hình tính tốn Topo mạng Hình mơ hình mạng điển hình triển khai cụm K8s Ta giả sử N số tầng mạng hình cây, M c , M d số lượng PoD triển khai nốt số lượng PoD triển khai thực chức autoscaling R số lượng yêu cầu tới PoD BWsyn , BWreq băng thông tiêu thụ việc đồng trạng thái PoD triển khai PoD triển khai băng thông chiếm dụng gửi yêu cầu tới PoD đường link kết nối switch 129 Tuyển tập Hội nghị Khoa học thường niên năm 2021 ISBN: 978-604-82-5957-0 Do phương pháp đề xuất sử dụng thuật tốn tìm đường ngắn đến PoD cũ nên mơ hình cây, server chọn để đặt PoD ln có xu hướng kết nối với switch có kết nối trực tiếp với server chứa PoD cũ Băng thơng tiêu thụ giải pháp tính cách gần sau: BWHPA  ( M c  M d ) * N * R * BWreq  2* N * R * BWsyn BWVPA  ( M c  M d ) * N * R * BWreq BWPr oposed  ( M c  M d ) * N * R * BWreq  2* R * BWsyn Ta thay đổi số lượng yêu cầu tới PoD số tầng mạng để đánh giá băng thông tiêu thụ giải pháp autoscaling Giải pháp hỗn hợp kết hợp sử dụng phương pháp autoscaling ngang nên tối ưu thời gian tiến hành việc triển khai PoD đồng thời sử dụng thuật tốn tìm đường ngắn để tìm server có đường kết nối ngắn tới PoD nên tối ưu mặt băng thông tiêu thụ so với phương pháp autoscaling ngang kết thu hình ta thay đổi số lượng yêu cầu số tầng mạng KẾT LUẬN Bằng kết phân tích thu ta thấy, giải pháp hỗn hợp tối ưu mặt băng thông sử dụng so với giải pháp HPA thông thường đồng thời có thời gian autoscaling tốt giải pháp VPA TÀI LIỆU THAM KHẢO [1] Hình Băng thông sử dụng vs số tầng topo mạng Từ Hình 5, băng thơng tiêu thụ giải pháp autoscaling dọc nhỏ so với giải pháp đề xuất autoscaling ngang Tuy nhiên giải pháp autoscaling dọc có nhược điểm lớn thời gian tiến hành lâu trình tắt bật lại PoD thực Kubernetes, kiến trúc K8s, https://kubernetes.io/ [2] Brandon T., Ruth G., Cloud computing with K8s cluster elastic scaling, Proceedings of the 3rd International Conference on Future Networks and Distributed Systems, July 2019 [3] Horizontal PoD Autoscaler https://kubernetes.io/docs/tasks/runapplication/horizontal-pod-autoscale/ [4] Vertical PoD Autoscaler, https://cloud.google.com/kubernetesengine/docs/concepts/verticalpodautoscaler Hình Băng thơng sử dụng vs số lượng yêu cầu 130 ... controller thực cách viết lại đặc tả PoD Giải pháp autoscaling hỗn hợp đề xuất kết hợp ưu điểm autoscaling ngang autoscaling dọc Giải pháp autoscaling hỗn hợp cần thu thập liệu bao gồm việc sử dụng... dụng tham số băng thông tiêu thụ để so sánh giải pháp autoscaling Ta tính tốn băng thơng tiêu thụ giải pháp: giải pháp hỗn hợp, autoscaling dọc autoscaling ngang sử dụng mơ hình tính tốn Topo... yêu cầu tới PoD số tầng mạng để đánh giá băng thông tiêu thụ giải pháp autoscaling Giải pháp hỗn hợp kết hợp sử dụng phương pháp autoscaling ngang nên tối ưu thời gian tiến hành việc triển khai