V. CÁN BỘ HƯỚNG DẪN (Ghi rõ học hàm, học vị, họ, tên): PGS.TS Thoại Nam
3.1 Tổng quan về Content Delivery Network
3.1.1 Khái niệm
Trong mô hình mạng truyền thống, tất cả yêu cầu từ người dùng sẽ được phục vụ bởi một máy chủ hay một data center của nhà cung cấp nội dung. Khi nhu cầu, số lượng người dùng trở nên ngày càng lớn, kiến trúc truyền thống và cơ sở hạ tầng mạng khó có thể đem lại chất lượng dịch vụ tốt và ổn định. Mô hình mạng CDN ra đời nhằm phục vụ cho nhu cầu này. Doanh nghiệp sử dụng dịch vụ CDN để giảm traffic nội mạng, giảm độ trễ của dịch vụ, tăng tính ổn định và cải thiện trải nghiệm của người dùng. Khi người dùng yêu cầu một nội dung, thay vì yêu cầu này sẽ được gửi từ một máy chủ của nhà cung cấp, nó sẽ được gửi từ các replica server của hệ thống CDN. Nội dung sẽ được cache trong một hay nhiều replica servers của CDN.
3.1.2 Các đối tượng chính
Có 4 đối tượng chính trong một mô hình kinh doanh của hệ thống CDN gồm: Người dùng cuối: Người sử dụng dịch vụ từ nhà cung cấp nội dung. Họ
thường sẽ trả tiền theo tháng để truy cập internet hay các dịch vụ OTT, VoD,... Một trong những mục tiêu tiên quyết khi nghiên cứu hệ thống CDN là cải thiện trải nghiệm ở người dùng cuối.
Nhà cung cấp nội dung: cung cấp dịch vụ cho khách hàng mà không cần phải
thông qua các giao dịch, hợp đồng phức tạp với nhà mạng ISP. Hơn thế nữa, họ thường không muốn tốn nhiều chi phí cho cơ sở hạ tầng, gia tăng chất lượng dịch vụ và duy trì tính độc quyền với khách hàng.
Nhà cung cấp dịch vụ CDN: cung cấp cơ sở hạ tầng CDN (máy chủ và có thể
cả hạ tầng mạng) và có những hợp đồng ràng buộc về chất lượng với nhà cung cấp nội dung.
Nhà mạng ISP: chủ yếu nhận tiền từ người dùng cuối và có thể cả từ nhà cung
cấp dịch vụ CDN. Họ muốn duy trì và cân bằng chi phí cơ sở hạ tầng và chất lượng mạng để có thể cạnh tranh với các nhà mạng khác.
3.1.3 Phân loại
Tùy thuộc vào cách triển khai và mô hình kinh doanh, các hệ thống CDN được phân loại thành ba nhóm chính:
Hệ thống CDN truyền thống: Hình 1 minh họa cho mô hình CDN truyền
thống. Trong mô hình mạng CDN này, các replica server của hệ thống CDN sẽ đặt tại một hay nhiều trung tâm dữ liệu. Mỗi trung tâm dữ liệu Point-of-Present (PoP) sẽ kết nối trực tiếp với routers thuộc nhà mạng ISP. Mỗi PoP sẽ phục vụ cho một khu vực “district” nhỏ gồm một cụm nhỏ các người dùng cuối. Các request trong một “district” chỉ được phục vụ bởi 1 PoP riêng thuộc “district” đó. Nhà cung cấp nội dung sẽ thuê và trả tiền cho nhà cung cấp dịch vụ CDN để cải thiện dịch vụ của họ. Hợp đồng giữa 2 bên thường sẽ có những cam kết về chất lượng dịch vụ tối thiểu.
Hình 1: Mô hình CDN truyền thống
Hệ thống cloud CDN: Hiện này, có rất nhiều nền tảng lớn cung cấp dịch vụ
cloud CDN nổi tiếng như Akamai, CloudFront, Google Cloud, Amazon AWS,... Các nhà cung cấp nội dung sẽ thuê dịch vụ cloud từ các nền tảng này để phục vụ cho nhu cầu của họ. Tùy thuộc vào chính sách của các công ty cung cấp nền tảng CDN mà họ sẽ có các cách tính chi phí khác nhau. Những mục chi phí thường được tính khi cung cấp dịch vụ CDN của các nền tảng là số lượng máy, dung lượng lưu trữ của mỗi máy, lưu lượng traffic,... Cách tính chi phí cho những mục này thường sẽ khác nhau cho từng khu vực. Trong mô hình này, mỗi “region” sẽ gồm nhiều “district”. Các “region” sẽ được phục vụ bởi các data center trong khu vực của nhà cung cấp dịch vụ cloud. Hình 2 minh họa mô hình cloud CDN.
Hình 2: Mô hình cloud CDN
Hệ thống Telco CDN: Khi nhà cung cấp dịch vụ CDN sở hữu hoặc có thể chia
sẻ cơ sở hạ tầng mạng của nhà mạng ISP, hệ thống CDN có thể được triển khai ngay trên cơ sở hạ tầng này. Hình 3 mô tả mô hình Telco CDN. Trong mô hình này, các replica server có thể kết nối trực tiếp với các routers của nhà mạng ISP. Việc tận dụng cơ sở hạ tầng của nhà mạng ISP giúp giảm chi phí đầu tư, tăng hiệu quả của hệ thống CDN.
3.1.4 Các bài toán con trong chiến lược caching của hệ thống CDN:
Chiến lược caching của một hệ thống CDN có thể được chia thành ba bài toán con nhỏ hơn như sau:
Bài toán eviction: Là bài toán xác định khi nào và nội dung gì trong cache sẽ
được xóa.
Bài toán admission: Là bài toán xác định nội dung nào sẽ được cache. Thông
thường nhà cung cấp nội dung nếu muốn hệ thống CDN cache một nội dung, họ sẽ thêm vào 1 trường trong phần header của gói tin chứa nội dung để đánh dấu việc cache gói tin đó. Luận văn này không đề cập đến chiến lược admission trong môi trường thí nghiệm nghĩa là các replica servers sẽ cache tất cả nội dung mới.
Chiến lược định tuyến gói tin: Là bài toán xác định khi một nội dung không
có trong một replica servers thì server đó nên chuyển hướng yêu cầu đó đến server nào kế tiếp.
3.2 Thư viện Mininet
Công cụ giả lập trong luận văn này được phát triển dựa trên thự viện Mininet. Mininet là một thư viện giả lập mạng có khả năng giả lập các máy ảo chạy code thực. Mỗi máy ảo có trong mạng giả lập đều có network stack, Linux kernel riêng và chạy trên một namespace độc lập. Các máy ảo giao tiếp với nhau thông qua các đường kết nối ethernet ảo. Hơn thế nữa, trong phiên bản cập nhật Mininet HiFi [42] đã cung cấp cơ chế cô lập tài nguyên, đường kết nối ảo khả thiết lập. Cụ thể hơn, ta có thể cấp phát phần trăm tài nguyên CPU cố định cho mỗi máy ảo, cũng như các tài nguyên mạng như bandwidth, loss và delay cho mỗi đường ethernet ảo. Luận văn này sử dụng Containernet, một phiên bản mở rộng của Mininet. Containernet mở rộng khả năng triển khai các ứng dụng thực thông qua cơ chế sử dụng Docker container trên các máy ảo. Với phiên bản mở rộng này, luận văn có thể giả lập lại hệ thống thực chi tiết hơn. Về sự tương quan giữa tính đúng đắn, ổn định của thư viện Mininet và khả năng phần cứng của máy thực chạy thư viện đã được khảo sát và đánh giá trong [43]. Mininet ban đầu được thiết kế để giả lập các hệ thống Software Defined Network (SDN), nhưng độ tin cậy và tính ổn định của nó vẫn được đảm bảo khi giả lập các hệ thống
mạng truyền thống. Tuy nhiên, việc sử dụng các SDN controller có thể sẽ gia tăng việc tiêu tốn tài nguyên phần cứng chạy bộ giả lập. Công cụ giả lập được phát triển trong luận văn này thay vì sẽ định tuyến packet dựa vào một bộ SDN controller, các gói tin sẽ được định tuyến dựa vào các router giả lập. Chi tiết của phần hiện thực công cụ này sẽ được đề cập ở chương 4.
3.3 Bài toán tối ưu hóa đa mục tiêu 3.3.1 Định nghĩa 3.3.1 Định nghĩa
Một bài toán tối ưu hóa đa mục tiêu thường sẽ bao gồm hai hay nhiều hơn các hàm mục tiêu cần tối ưu. Giả sử ta có bài toán tối ưu k mục tiêu, ta kí hiệu hàm mục tiêu thứ i là ( ) với x là là biến số thực đầu vào d chiều . Mục tiêu của bài toán này là tối thiểu hóa những mục tiêu này với không gian đầu vào X, tuy nhiên các mục tiêu này thường đối nghịch nhau. Trong bài toán đa mục tiêu, khi chỉ tập trung tối ưu một mục tiêu riêng lẻ có thể sẽ ảnh hưởng hay làm tệ đi những mục tiêu khác.
Để tìm nghiệm tối ưu cho bài toán đa mục tiêu, trước tiên ta phải định nghĩa một lời giải như thế nào thì tốt hơn một lời giải khác. Trong trường hợp bài toán đơn mục tiêu, sự “vượt trội” của lời giải được xác định đơn giản bởi sự so sánh giá trị của hàm mục tiêu đơn liên quan. Trong bài toán đa mục tiêu, sự vượt trội này được đánh giá qua khái niệm dominanace. Một lời giải x1được gọi là dominate x2 khi thỏa mãn cả 2 điều kiện sau:
x1 không tệ hơn x2 trong tất cả các mục tiêu. x1tốt hơn x2trong ít nhất một mục tiêu.
Một bài toán đa mục tiêu giải quyết theo cách tiếp cận Pareto sẽ có một tập nghiệm tối ưu được gọi là tập Pareto. Những nghiệm trong tập Pareto P (Pareto set)
sẽ không bị dominate bởi bất kỳ giá trị nào khác trong tập X. Nói cách khác, ta có các phát biểu sau cho bài toán tối thiểu hóa:
Hình 4 là ví dụ minh họa cho khái niệm dominate và Pareto front với bài toán có 2 mục tiêu , . A và B không dominate nhau, trong khi đó A và B đều dominate
C. Đường màu đỏ chứa các điểm là giá trị các hàm mục tiêu của các nghiệm tối ưu còn được gọi là Pareto front. Mỗi bài toán tối ưu hóa đa mục tiêu đều có một true Pareto front. Đây là Pareto front lý tưởng và không tồn tại một Pareto front nào “tốt” hơn. Mục tiêu cao nhất của hướng tiếp cận Pareto này là có thể tìm được true Pareto front của bài toán.
Hình 4: Ví dụ về Dominance và Pareto front cho bài toán 2 mục tiêu.
3.3.2 Độ đo
Để so sánh giữa các giải thuật tối ưu hóa đa mục tiêu theo cách tiếp cận Pareto, ta cần một độ đo để so sánh giữa các tập nghiệm Pareto. Một phép đo phổ biến thường được sử dụng trong mục đích này là Hypervolume Indicator [44]. Giả sử, ta có điểm tham khảo ∈ . Hypervolume Indicator của tập Pareto P là phép đo khu vực bị dominate bởi tập P và giới hạn bởi điểm tham khảo r. Với Λ(. ) là phép đo
Lebesgue, ta có công thức tính sau:
( ) = Λ({q ∈ R | ∃p ∈ P ∶ p ≤ q và q ≤ r }))
Hình 5 mô tả Hypervolume Indicator của 1 tập gồm 4 điểm {p1, p2, p3, p4} và điểm tham khảo r trong không gian 2 chiều.
.
Hình 5: Ví dụ Hypervolume trong không gian 2 chiều (diện tích vùng màu xám)
3.4 Giải thuật NSGA-II cho bài toán đa mục tiêu
Giải thuật NSGA-II là một trong những giải thuật cổ điển, phổ biến và điển hình nhất của hướng tiếp cận di truyền để giải quyết bài toán đa mục tiêu. Giải thuật này là giải thuật lặp, mỗi vòng lặp tương ứng với một thế hệ. Ta có thể tóm tắt vào trong 6 bước sau:
Bước 1: Khởi tạo population Pt. Population được khởi tạo dựa trên một số
chiến lược lấy mẫu, ví dụ như lấy mẫu ngẫu nhiên theo phân phối chuẩn, hay dựa trên phương pháp Latin Hypercube Sampling (LHS).
Bước 2: Thực hiện giải thuật Non-dominated sorting (NDS). Không mất tính tổng quát, xét trong bài toán tối thiểu hóa, giả sử rằng nghiệm của population Pt
được gán cho N Pareto fronts, ,∀i ∈ [1, N], được gọi là rank của Pareto front. Đầu tiên, giải thuật NDS sẽ chọn những nghiệm không bị dominate bởi bất kì nghiệm nào khác từ tập Ptvà gán chúng thuộc (Pareto front này có
rank 1). Tương tự với tập \ để tìm Pareto front . Giải thuật NDS sẽ lặp đến khi tất cả các mẫu trong Pt đều đã được gắn với một Pareto front.
Bước 3: Tính Crowding Distance [22] cho mỗi mẫu của từng Pareto front . Bước 4: Lựa chọn mẫu từ tập Pt dựa trên chiến lược Crowded Tournament
Bước 5: Thực hiện các phép toán di truyền: lai tạo và đột biến để tạo ra tập đời con S.
Bước 6: Kết hợp giữa tập đời con St và tập Pt ban đầu rồi lựa chọn các mẫu tốt nhất để tạo ra một thế hệ mới Pt+1 với cùng kích thước population như tập Pt
ban đầu. Quay lại bước 1.
3.5 Giải thuật Bayesian cho bài toán đa mục tiêu 3.5.1 Cơ sở lý thuyết cho giải thuật Bayesian tổng quát 3.5.1 Cơ sở lý thuyết cho giải thuật Bayesian tổng quát
3.5.1.1 Tổng quan
Giải thuật Bayesian là cách tiếp cận phổ biến và hiệu quả nhất để giải quyết các bài toán có hàm mục tiêu “đắt giá”. Hàm mục tiêu “đắt giá” nghĩa là việc tính toán, đánh giá mục tiêu cho mỗi điểm đầu vào có thể tốn nhiều thời gian hay các chi phí khác. Một trong những ưu điểm của giải thuật Bayesian là giải thuật này chỉ cần tính toán hàm này với một số lượng ít lần nhưng vẫn đạt được một kết quả chấp nhận được. Giải thuật Bayesian là một giải thuật lặp. Mỗi vòng lặp sẽ xây dựng và huấn luyện một surrogatemodel để có thể xấp xỉ được phân bố của hàm mục tiêu. Từ đó, thay vì tính toán hàm mục tiêu “đắt giá” để đánh giá một điểm dữ liệu mới, ta có thể sử dụng surrogate model. Một khác biệt chính giữa surrogate model và hàm mục tiêu là surrogate model trả về một phân bố xác suất cho các giá trị có thể có của hàm mục tiêu cho mỗi giá trị đầu vào, trong khi đó hàm mục tiêu trả về một giá trị hằng. Sau khi đã huấn luyện surrogate model, một acquisition function kết hợp với một tiêu chí lựa chọn được sử dụng để tìm điểm dữ liệu có tiềm năng mới. Điểm dữ liệu mới này sẽ được thêm vào tập huấn luyện cho surrogate model trong vòng lặp kế. Acquisition function sử dụng chính trong luận văn này là EI và UCB. Hình 6 mô tả giải thuật tối ưu hóa Bayesian tổng quát cho bài toán đơn mục tiêu.
Hình 6: Mã giả giải thuật tối ưu hóa Bayesian tổng quát.
Phần này sẽ giới thiệu phần nền tảng lý thuyết cho thuật toán Bayesian trong trường hợp bài toán đơn mục tiêu và sẽ được mở rộng cho nhiều hàm mục tiêu trong phần kế tiếp.
3.5.1.2 Gaussian Process Regression (GPR)
Một mô hình GP được định nghĩa như một phân bố xác suất tiên nghiệm trên hàm mục tiêu. Giả sử ta có một hàm mục tiêu f và một tập gồm k điểm giá trị đã quan sát được , , … , ∈ , các giá trị hàm mục tiêu tương ứng được viết dưới dạng vector [ ( ), ( ), … , ( )]. Ta giả sử giá trị vector này được lấy ngẫu nhiên từ một phân bố xác suất tiên nghiệm có dạng phân phối chuẩn đa chiều. Phân phối chuẩn này được đặc trưng bởi vector chứa giá trị trung bình cộng và ma trận hiệp phương sai.
Ta xây dựng vector trung bình cộng bởi đánh giá một hàm trung bình cộng µ0
cho mỗi giá trị xi. Ma trận hiệp phương sai được tính dựa trên một hàm hiệp phương
sai hay còn gọi là kernel K cho mỗi cặp giá trị xi và xj. Hàm kernel được chọn sao cho
nếu cặp điểm xi, xj càng gần nhau thì hệ số tương quan giữa chúng càng cao. Điều này
nhằm ngụ ý rằng nếu những điểm càng gần nhau thì càng nên có giá trị hàm mục tiêu giống nhau hơn những điểm ở xa chúng. Một đặc trưng cần lưu ý là ma trận hiệp phương sai phải là một ma trận nửa xác định dương và K không phải là một hàm đối xứng. Phân phối tiên nghiệm nhận được là:
Trong đó, : là chuỗi giá trị , , … , , ta có:
( : ) =[ ( 1), 2), … , ( ],
µ ( 1: )=[µ ( ), µ ( ), … , µ ( )],
( 1: , 1: )=[ ( , ), ( , ), … , ( , )].
Giả sử rằng ( : ) không có nhiễu, dựa trên k điểm dữ liệu đã quan sát được, ta cần dự đoán giá trị ( )với điểm dữ liệu tiềm năng mới xk+1.Ta có phân phối tiên nghiệm trên hàm [ ( : ), ( )] được tính như (1), vậy nên ta có thể tính phân phối hậu nghiệm dựa trên quan sát có được theo định lý Bayes như công thức sau:
( )| ( 1: )~ µ ( +1), 2( +1)
µ ( +1)= ( +1, 1: ) −1( +1, 1: ) ( 1: )−µ ( 1: ) +µ ( +1)
( ) = ( , ) − ( , : ) ( : , : ) ( : , )
Trong đó, giá trị trung bình hậu nghiệm µ ( +1) đơn giản là trung bình cộng có trọng số giữa giá trị trung bình tiên nghiệm µ ( +1) và dự đoán dựa trên tập dữ liệu đã quan sát ( : ). Phương sai hậu nghiệm ( ) bằng hiệp phương sai tiên nghiệm ( , ) trừ cho một đại lượng liên quan đến phần phương sai bị trừ bởi dữ liệu quan sát cũ ( : ). Đây là cách tính truyền thống để sử dụng GPR.
Luận văn này sử dụng một trong những kernel phổ biến nhất hàm Matèrn [45]. Hàm Matérn được tính như sau với Γ(.) là hàm gamma, α là tham số của kernel và