Mạng trung tâm dữ liệu hỗ trợ hai loại lưu lượng: lưu lượng giữa các máy khách bên ngoài và máy chủ nội bộ giữa các máy bên trong. Để xử lý các luồng giữa các máy khách bên ngoài và máy chủ nội bộ, mạng trung tâm dữ liệu bao gồm một hoặc nhiều bộ định
tuyến biên giới, kết nối mạng trung tâm dữ liệu với Internet cơng cộng. Do đó, mạng trung
tâm dữ liệu kết nối các rack với nhau và kết nối các rack với các bộ định
tuyến biên giới.
Hình 6.30 cho thấy một ví dụ về mạng trung tâm dữ liệu. Thiết kế mạng trung
tâm dữ liệu,
nghệ thuật thiết kế mạng liên kết và các giao thức kết nối các rack với nhau
và với các bộ
định tuyến biên giới, đã trở thành một nhánh quan trọng của nghiên cứu
mạng máy tính
trong những năm gần đây
6.1.1. Tải cân bằng
Một trung tâm dữ liệu đám mây có thể cung cấp nhiều ứng dụng đồng thời, chẳng hạn như các ứng dụng tìm kiếm, e-mail và video. Để hỗ trợ các yêu cầu từ khách hàng bên ngoài, mỗi ứng dụng được liên kết với một địa chỉ IP hiển thị công khai mà khách hàng gửi yêu cầu của họ và từ đó họ nhận được phản hồi. Bên trong trung tâm dữ liệu, các yêu cầu bên ngoài trước tiên được chuyển hướng đến một bộ cân bằng tải, cơng việc của nó là phân phối các yêu cầu đến các máy chủ và cân bằng tải trên các máy chủ
Một trung tâm dữ liệu lớn thường sẽ có một số bộ cân bằng tải, mỗi bộ dành cho một tập hợp các ứng dụng đám mây cụ thể. Khi nhận được yêu cầu cho một ứng dụng cụ thể, bộ cân bằng tải sẽ chuyển tiếp nó đến một trong các máy chủ xử lý ứng dụng. (Một máy chủ sau đó có thể gọi các dịch vụ của các máy chủ khác để giúp xử lý yêu cầu.) Bộ cân bằng tải không chỉ cân bằng tải cơng việc trên các máy chủ mà cịn cung cấp chức năng dịch địa chỉ IP bên ngồi cơng khai sang địa chỉ IP nội bộ của máy chủ lưu trữ thích hợp, và sau đó dịch ngược lại cho các gói đi theo hướng ngược lại trở lại máy khách. Điều này ngăn không cho máy khách liên hệ trực tiếp với máy chủ, điều này có lợi ích bảo mật là ẩn
cấu trúc mạng nội bộ và ngăn máy khách tương tác trực tiếp với máy chủ.
6.1.2. Kiến trúc phân cấp
Đối với một trung tâm dữ liệu nhỏ thì chỉ cần kết nối với nhau bằng một bộ chuyển mạch Ethernet duy nhất có thể là đủ nhưng với một trung tâm dữ liệu quy mô lớn hơn, lên đến hàng chục hàng tram nghìn máy chủ thì cần sử dụng hệ thống phân cấp các bộ định tuyến và chuyển mạch chẳng hạn như ở trong hình 6.30
Ở đầu phân cấp, Border router kết nối với access routers. Bên dưới mỗi access routers,
có ba cấp switch. Mỗi access router kết nối với một switch cấp 1 và mỗi switch cấp 1 kết nối với nhiều switch cấp 2 và một bộ cân bằng tải. Mỗi switch cấp 2 lần lượt kết nối với nhiều rack thông qua các TOR switch ( switch cấp 3) của các rack. Tất cả các liên kết thường sử dụng Ethernet cho các giao thức lớp liên kết và lớp vật lý, với sự kết hợp của cáp đồng và cáp quang.
Với thiết kế phân cấp như vậy, có thể mở rộng quy mô một trung tâm dữ liệu lên hàng trăm nghìn máy chủ.
Mặc dù kiến trúc phân cấp thơng thường vừa mô tả giải quyết được vấn đề về quy mơ,
nhưng nó bị hạn chế về dung lượng từ máy chủ đến máy chủ. Để hiểu hạn chế này, hãy xem xét lại Hình 6.30 và giả sử mỗi máy chủ kết nối với TOR switch của nó bằng liên kết 10 Gbps, trong khi các liên kết giữa các switch là các liên kết Ethernet 100 Gbps. Hai máy chủ trong cùng một rack ln có thể giao tiếp ở tốc độ 10 Gbps đầy đủ, chỉ bị giới hạn bởi tốc độ của bộ điều khiển giao diện mạng của máy chủ. Tuy nhiên, nếu có nhiều luồng
đồng
thời trong mạng trung tâm dữ liệu, tỷ lệ tối đa giữa hai máy chủ trong các rack khác nhau có thể ít hơn nhiều.
Có một số giải pháp có thể cho vấn đề này:
• Một giải pháp khả thi cho hạn chế này là triển khai các thiết bị chuyển mạch và bộ định tuyến tốc độ cao hơn. Nhưng điều này sẽ làm tăng đáng kể chi phí của trung tâm dữ liệu, bởi vì các thiết bị chuyển mạch và bộ định tuyến với tốc độ cổng cao là rất đắt.
• Giải pháp thứ hai cho vấn đề này, có thể được áp dụng bất cứ khi nào có thể, là đồng
định vị các dịch vụ và dữ liệu liên quan càng gần nhau càng tốt (ví dụ: trong cùng một rack
hoặc trong một rack gần đó) để giảm thiểu giao tiếp giữa các tủ mạng thông qua router switches cấp 2 hoặc cấp 1. Nhưng điều này chỉ có thể tiến xa hơn, vì u cầu chính trong các trung tâm dữ liệu là tính linh hoạt trong việc bố trí các dịch vụ và tính tốn. Ví dụ, một
cơng cụ tìm kiếm Internet quy mơ lớn có thể chạy trên hàng nghìn máy chủ trải rộng trên nhiều rack với yêu cầu băng thông đáng kể giữa tất cả các cặp máy chủ. Tương tự như vậy,
một dịch vụ điện toán đám mây (như Amazon Web Services hoặc Microsoft Azure) có thể muốn đặt nhiều máy ảo bao gồm dịch vụ của khách hàng trên các máy chủ vật lý có dung lượng lớn nhất bất kể vị trí của chúng trong trung tâm dữ liệu. Nếu các máy chủ vật lý này được trải rộng trên nhiều rack, tắc nghẽn mạng như mơ tả ở trên có thể dẫn đến hiệu suất kém.
• Giải pháp cuối cùng là tăng cường kết nối giữa TOR switch và switch cấp 2, và giữa
switch cấp 2 và switch cấp 1. Ví dụ, như thể hiện trong Hình 6.31, mỗi switch TOR có thể được kết nối với nhiều switch cấp 2, sau đó cung cấp nhiều đường dẫn liên kết và chuyển mạch giữa các rack. Trong hình 6.31, có bốn đường dẫn riêng biệt giữa switch cấp 2 đầu tiên và switch cấp 2 thứ hai, cùng nhau cung cấp tổng dung lượng 400 Gbps giữa hai switch
cấp 2 đầu tiên. Tăng mức độ kết nối giữa các tầng có hai lợi ích đáng kể: tăng dung lượng và tăng độ tin cậy (vì sự đa dạng đường dẫn) giữa các thiết bị chuyển mạch