Kỹ thuật cân bằng tải mạng (NLB network load balancing)
TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI VIỆN CÔNG NGHỆ THÔNG TIN Môn thiết bị truyền thông mạng Đề tài:Load Balancing Giảng viện hướng dẫn: PGS.TS Ngô Hồng Sơn Nhóm Load Blancing Mục lục Giới thiệu chung Hiện nay, nhu cầu truy nhập mạng bùng nổ, server cung cấp dịch vụ trở nên tải Việc lựa chọn server đơn lẻ có cấu hình cực mạnh để đáp ứng nhu cầu kéo theo chi phí đầu tư lớn Giải pháp hiệu đưa sử dụng nhóm server thực chức nǎng điều khiển công cụ phân phối tải - Giải pháp cân tải Có nhiều hãng đưa giải pháp cân tải Cisco, Coyote Point, Sun Microsystems với nhiều tính nǎng phong phú Tuy nhiên, bản, nguyên tắc cân tải xuất phát từ quan điểm kỹ thuật tương đồng Một kỹ thuật cân tải điển hình RRDNS (Round Robin DNS) Với giải pháp này, server nhóm bị lỗi, RRDNS tiếp tục gửi tải cho server người quản trị mạng phát lỗi tách server khỏi danh sách địa DNS Điều gây đứt quãng dịch vụ Sau phát triển, từ thuật toán cân tải tĩnh Round Robin, Weighted Round Robin đến thuật toán cân tải động Least Connection, Weighted Least Connection, Optimized Weighted Round Robin Optimized Weighted Least Connection, kỹ thuật cân tải nhờ kết hợp thuật toán ngày trở nên hoàn thiện nhược điểm vốn có tạo điểm lỗi đơn vấn đề nút cổ chai sử dụng điều phối tập trung (centralized dispatcher) Trong phần báo cáo nhóm xin giới thiệu giải pháp mà Microsoft sử dụng cho webserver, kỹ thuật cân tải mạng (NLB - Network Load Balancing) Load Blancing 2.Khái niệm Server tảng phân phối ứng dụng quan trọng, thường xuyên rộng khắp Web, Streaming media, VPN Như phần tích hợp Windows Advanced Server Datacenter Server, Network Load Balancing (NLB) cung cấp giải pháp lý tưởng, kinh tế để tăng cường tính khả mở khả dụng cho ứng dụng môi trường Internet intranet NLB mở rộng hiệu server ứng dụng, chẳng hạn Web server, nhờ phân phối yêu cầu client cho server nhóm (cluster) Các server (hay gọi host) nhận gói IP đến, gói xử lý server định Các host nhóm đồng thời đáp ứng yêu cầu khác client, cho dù client đưa nhiều yêu cầu Ví dụ, trình duyệt Web cần nhiều hình ảnh trang Web lưu trữ nhiều host khác nhóm server Với kỹ thuật cân tải, trình xử lý thời gian đáp ứng client nhanh nhiều Mỗi host nhóm định mức tải mà xử lý tải phân phối cách đồng host Nhờ sử dụng việc phân phối này, server lựa chọn xử lý phần tải host Tải Load Blancing client gửi đến phân phối cho server nhận số lượng yêu cầu theo phần tải định Sự cân tải điều chỉnh động host tham gia vào rời khỏi nhóm Đối với ứng dụng Web Server, có nhiều client thời gian mà yêu cầu client tồn tương đối ngắn, khả kỹ thuật nhằm phân phối tải thông qua ánh xạ thống kê giúp cân cách hiệu tải cung cấp khả đáp ứng nhanh nhóm server có thay đổi Các server nhóm cân tải phát tin đặc biệt thông báo trạng thái hoạt động (gọi heartbeat message) tới host khác nhóm đồng thời nghe tin từ khác host khác Nếu server nhóm gặp trục trặc, host khác điều chỉnh tái phân phối lại tải để trì liên tục dịch vụ cho client Trong phần lớn trường hợp, phần mềm client thường tự động kết nối lại người sử dụng cảm thấy trễ vài giây nhận đáp ứng trả lời 3.Các lợi ích Cân Bằng Tải a Tối đa hoá Uptime Cân Bằng Tải giúp dàn trải lưu lượng truy cập truy xuất hai nhiều máy chủ Trong trường hợp lỗi cố xảy điểm máy chủ, Cân Bằng Tải phát vấn đề di chuyển lưu lượng truy cập đến máy chủ online lại, dịch vụ cho người dùng không bị gián đoạn Cơ chế Cân Bằng Tải Long Vân Datacenter linh động, thiết kế để tự động xử lý cố Nếu Cân Bằng Tải thất bại, hệ thống quản lý dự phòng xử lý lỗi trì hoạt động IP ảo (VIP) để giảm thiểu gián đoạn hoạt động b Giúp Datacenter linh hoạt mở rộng Khi khách hàng có nhu cầu mở rộng hệ thống Datacenter, Cân Bằng Tải tự động điều phối máy chủ cũ để xử lý yêu cầu dịch vụ mà không làm gián đoạn trình hoạt động, xử lý Khách hàng chủ động nhiều công việc nhờ chế Cân Bằng Tải Long Vân Datacenter Load Blancing c Tăng tính bảo mật cho Datacenter Thông thường người dùng gửi yêu cầu dịch vụ lên hệ thống Cân Bằng Tải tiếp nhận phân chia cho máy chủ bên xử lý Quá trình phản hồi yêu cầu thông qua thành phần Cân Bằng Tải Bằng cách ngăn chặn người dùng giao tiếp trực tiếp với máy chủ, ẩn thông tin cấu trúc mạng nội bộ, ngăn ngừa công mạng truy cập trái phép 4.Kiến trúc hệ thống cân tải Để tối đa hoá thông lượng độ khả dụng, công nghệ cân tải sử dụng kiến trúc phần mềm phân tán hoàn toàn, trình điều khiển cân tải Load Blancing cài đặt chạy song song tất host nhóm Trình điều khiển xếp tất host nhóm vào mạng để phát đồng thời lưu lượng mạng đến địa IP nhóm (và địa bổ sung host nhiều vị trí khác nhau) Trên host, trình điều khiển hoạt động lọc trình điều khiển card mạng chồng giao thức TCP/IP, cho phép phần lưu lượng mạng đến nhận host Nhờ đó, yêu cầu client phân vùng cân tải host nhóm Hệ thống cân tải chạy trình điều khiển mạng (về mặt logic) nằm giao thức lớp ứng dụng HTTP hay FTP Kiến trúc tối đa hoá dung lượng nhờ việc sử dụng mạng quảng bá để phân phối lưu lượng mạng đến tất host nhóm loại bỏ cần thiết phải định tuyến gói đến host riêng lẻ Do thời gian lọc gói không mong muốn diễn nhanh thời gian định tuyến gói (định tuyến bao gồm trình nhận gói, kiểm tra, đóng gói lại gửi đi), kiến trúc cung cấp thông lượng cao giải pháp dựa điều phối Khi tốc độ mạng server tăng lên, thông lượng tăng theo tỉ lệ thuận, loại bỏ lệ thuộc vào việc định tuyến dựa phần cứng đặc biệt Trên thực tế, cân tải đạt thông lượng 250Mbit/s mạng Gigabit Một ưu điểm khác kiến trúc phân tán hoàn toàn độ khả dụng tăng cường với (N-1) cách khắc phục lỗi nhóm có N host Các giải pháp dựa điều phối tạo điểm lỗi kế thừa mà khắc phục cách sử dụng điều phối dự phòng cung cấp cách khắc phục lỗi Kiến trúc cân tải tận dụng ưu điểm kiến trúc thiết bị chuyển mạch (switch) tập trung (hub) mạng việc đồng thời phân phối lưu lượng mạng đến tất host nhóm Tuy nhiên, phương pháp làm tăng "tải trọng" chuyển mạch chiếm thêm băng thông cổng Đây vấn đề phần lớn Load Blancing ứng dụng dịch vụ Web hay streaming media, tỉ lệ lưu lượng đến chiếm phần nhỏ tổng lưu lượng mạng Tuy nhiên, kết nối mạng phía client đến thiết bị chuyển mạch có tốc độ nhanh nhiều kết nối phía server, lưu lượng chiếm tỉ lệ lớn mức cho phép băng thông cổng phía server Vấn đề tương tự gia tăng nhiều nhóm kết nối thiết bị chuyển mạch biện pháp thiết lập mạng LAN ảo cho nhóm không thực Trong trình nhận gói, việc triển khai NLB kết hợp việc phân phối gói tới tầng TCP/IP nhận gói khác qua trình điều khiển card mạng Việc giúp tăng tốc độ xử lý chung giảm trễ TCP/IP xử lý gói trình điều khiển NDIS (Network Driver Interface Specification) nhận gói Trong trình gửi gói, NLB tăng cường thông lượng, giảm độ trễ phụ phí (overhead) nhờ tăng số lượng gói mà TCP/IP gửi kết nối Để có cải thiện hiệu này, NLB thiết lập quản lý tập hợp đệm gói ký hiệu (descriptor) sử dụng để phối hợp hoạt động TCP/IP trình điều khiển NDIS 5.Phân phối lưu lượng nhóm NLB sử dụng hai lớp broadcast multicast để phân phối đồng thời lưu lượng mạng đến tất host nhóm Trong chế độ hoạt động mặc định unicast, NLB gán địa trạm làm việc (địa MAC) cho card mạng để card mạng hoạt động (card gọi card nhóm ? cluster adapter), tất host nhóm gán địa MAC Các gói đến nhận tất host nhóm chuyển gói tới trình điều khiển cân tải để lọc Để đảm bảo tính nhất, địa MAC dẫn xuất từ địa IP nhóm Ví dụ, với địa IP nhóm 1.2.3.4, địa MAC unicast đặt 02-BF-1-2-3-4 Trình điều khiển cân tải tự động sửa địa MAC card nhóm cách thiết lập thực thể đăng ký tái nạp trình điều khiển card nhóm Hệ điều hành không cần phải khởi động lại Nếu host Load Blancing cluster gắn vào thiết bị chuyển mạch (swicth) tập trung (hub), việc sử dụng chung địa MAC gây xung đột chuyển mạch lớp hoạt động địa MAC nguồn tất cổng thiết bị chuyển mạch Để tránh điều này, NLB sửa địa MAC nguồn cho gói đầu nhất, địa MAC nhóm 02-BF-1-2-3-4 chuyển thành 02-h1-2-3-4, h mức ưu tiên host nhóm Kỹ thuật ngăn không cho thiết bị chuyển mạch tìm địa MAC thực nhóm kết gói đến nhóm phân phối tới tất cổng thiết bị chuyển mạch Nếu host nhóm kết nối trực tiếp vào hub, mặt nạ địa MAC nguồn NLB chế độ unicast vô hiệu hoá để tránh gây tượng tràn cho thiết bị chuyển mạch đường lên (upstream) Điều thực cách thiết lập tham số đăng ký NLB MaskSourceMAC=0 Việc sử dụng hệ thống chuyển mạch đường lên ba mức hạn chế tràn cho thiết bị chuyển mạch Load Blancing Chế độ unicast NLB làm vô hiệu hoá trình trao đổi thông tin host nhóm có sử dụng card nhóm Khi gói host gửi với địa MAC đích giống địa MAC nguồn, gói bị quay vòng (loop-back) tầng giao thức mạng bên hệ thống phía gửi không đến đường truyền Hạn chế tránh cách thêm card mạng thứ hai cho host Trong cấu hình này, NLB sử dụng card mạng mạng nhận yêu cầu client card mạng khác thường đặt tách biệt mạng cục để trao đổi thông tin host nhóm với server sở liệu file server gốc NLB sử dụng card nhóm để truyền tin "heartbeat" lưu lượng điều khiển từ xa Chú ý rằng, trao đổi thông tin host nhóm host nhóm không bị ảnh hưởng chế độ unicast NLB Lưu lượng mạng đến địa IP dành riêng cho host (trong card nhóm) nhận tất host nhóm chúng sử dụng chung địa MAC Do NLB không cân tải lưu lượng địa IP dành riêng, NLB phân phối lưu lượng đến TCP/IP host định Các host khác nhóm coi lưu lượng lưu lượng cân tải loại bỏ lưu lượng Chú ý, lưu lượng mạng đến lớn địa IP dành riêng ảnh hưởng đến hiệu hệ thống NLB hoạt động chế độ unicast (tuỳ theo cần thiết TCP/IP việc loại bỏ gói không mong muốn) NLB cung cấp chế độ thứ hai để phân phối lưu lượng mạng đến host nhóm, chế độ multicast Chế độ gán địa multicast lớp cho card nhóm thay thay đổi địa trạm làm việc card Ví dụ, địa MAC multicast gán 03-BF-1-2-3-4 tương ứng với địa IP 1.2.3.4 Do host nhóm có địa trạm làm việc nhất, chế độ không cần card mạng thứ hai để trao đổi thông tin host nhóm ảnh hưởng đến hiệu toàn hệ thống việc sử dụng địa IP dành riêng Chế độ unicast NLB gây tràn switch phân phối đồng thời lưu lượng mạng tất cổng Tuy nhiên, chế độ multicast NLB đưa hội hạn chế tràn switch để người quản trị hệ thống cấu Load Blancing hình mạng LAN ảo switch cho cổng tương ứng với host Có thể làm điều cách lập trình cho switch sử dụng giao thức IGMP giao thức GARP, GMRP NLB cần triển khai chức ARP để đảm bảo địa IP nhóm địa IP ảo khác phân giải sang địa MAC multicast nhóm (Địa IP dành riêng tiếp tục phân giải sang địa trạm làm việc card nhóm) Một số thuật toán load balancing NLB sử dụng thuật toán lọc phân tán hoàn toàn để ánh xạ client đến host nhóm Thuật toán cho phép host nhóm đưa định cân tải cách độc lập nhanh chóng cho gói đến Nó tối ưu hoá để cung cấp khả cân tải cách thống kê số lượng lớn yêu cầu nhỏ vô số client tạo ra, điển hình Web server Nếu số client kết nối client tạo tải chênh lệch server, thuật toán cân bàng tải hiệu Tuy nhiên, tính đơn giản tốc độ thuật toán cho phép cung cấp hiệu nǎng cao bao gồm thông lượng cao thời gian đáp ứng ngắn dải rộng ứng dụng client/server thông dụng Load Blancing 10 Trong chế độ unicast, host phát quảng bá (broadcast) tin "heartbeat" theo chu kỳ Còn chế độ multicast, phát tin chế độ multicast Mỗi tin "heartbeat" chiếm khung Ethernet gắn thêm địa IP nhóm nhằm cho phép nhiều nhóm tồn mạng Bản tin "heartbeat" NLB Microsoft gán giá trị 0x886F Chu kỳ gửi tin mặc định 01 giây Giá trị thay đổi Trong trình hội tụ, chu kỳ giảm xuống nửa để đẩy nhanh việc hoàn tất trình Thậm chí, cluster lớn, băng thông cần thiết để truyền tin "heartbeat" thấp (24kBytes/s cho cluster 16 đường) Để khởi tạo trình hội tụ, theo mặc định cần 05 tin heartbeat không nhận Giá trị thay đổi Load Blancing 17 8.Điều khiển từ xa Cơ chế điều khiển từ xa NLB sử dụng giao thức UDP gán cổng dịch vụ #2504 Các gói liệu điều khiển từ xa gửi tới địa IP nhóm Do trình điều khiển host nhóm xử lý gói này, chúng cần định tuyến tới mạng nhóm (thay tới mạng gốc mà nhóm gắn vào) Khi lệnh điều khiển từ xa đưa nhóm, chúng phát quảng bá mạng cục Điều đảm bảo tất host nhóm nhận chúng nhóm chạy chế độ unicast 9.Hiệu cân tải Vai trò NLB tác động đến hiệu hệ thống đánh giá dựa bốn tiêu chí sau: - CPU overhead host nhóm - Phần trăm CPU cần thiết để phân tích lọc gói mạng (càng thấp tốt) Tất giải pháp cân tải cần sử dụng phần tài nguyên hệ thống để xem xét gói đến đưa định cân tải nhiều ảnh hưởng đến hiệu mạng Giải pháp cân tải dựa điều phối cần kiểm tra, hiệu chỉnh truyền lại gói tới host nhóm (thường phải sửa đổi lại địa IP để tái định tuyến gói từ địa IP ảo tới địa IP host cụ thể) Đối với NLB, phân phối đồng thời gói đến tới tất host nhóm áp dụng thuật toán lọc để loại bỏ gói không mong muốn Quá trình lọc gây ảnh hưởng so với trình tái định tuyến kết thời gian đáp ứng nhanh với thông lượng toàn hệ thống cao 10.Thông lượng thời gian đáp ứng yêu cầu NLB nâng cao hiệu hệ thống cách tăng thông lượng tối thiểu hoá thời gian đáp ứng tới yêu cầu client Khi lực host nhóm khai thác tối đa, cung cấp thêm thông lượng thời gian đáp ứng tăng đột biến tuỳ theo độ trễ hàng đợi yêu Load Blancing 18 cầu client Bổ sung thêm host cho phép tăng thông lượng giảm thời gian đáp ứng Nếu nhu cầu khách hàng tiếp tục tăng, host thêm vào mạng bão hoà Và tải tiếp tục tăng, cần sử dụng nhiều nhóm NLB việc phân phối lưu lượng host thực kỹ thuật Round Robin DNS - Băng thông sử dụng Switch (Switch occupancy): Tỉ lệ băng thông switch sử dụng trình làm tràn yêu cầu client Kiến trúc lọc gói NLB dựa mạng broadcast để phân phối yêu cầu client tới tất host lúc Trong nhóm nhỏ, sử dụng hub để kết nối host Với nhóm lớn hơn, switch lựa chọn Và mặc định, NLB tạo tượng "tràn" switch để phân phối yêu cầu client tới tất host lúc Cần chắn tượng "tràn" switch không vượt lực switch, đặc biệt switch chia sẻ nhóm máy tính nhóm Bình thường, băng thông sử dụng cho lưu lượng yêu cầu client chiếm tỉ lệ nhỏ tổng lượng băng thông cần thiết cho trình truyền thông server client Tuy nhiên trình "tràn" switch trở thành vấn đề ứng dụng có tỉ lệ phần trăm đáng kể lưu lượng mạng dẫn tới nhóm (chẳng Load Blancing 19 hạn trình upload file ứng dụng FTP) hay nhiều nhóm sử dụng chung switch Trong trường hợp này, chạy NLB chế độ multicast thiết lập mạng LAN ảo để hạn chế tràn switch biện pháp khắc phục hiệu khiếm khuyết Ngoài ra, tính khả mở NLB định khả cải thiện hiệu hệ thống host thêm vào nhóm 11.Một số phương pháp cân bằng tải Round Robin DNS: Cân tải cho server toàn cầu ( GSLB) Có nhân tố thể cần thiết GSLB , khả có sẵn cao thời gian đáp ứng Để đảm bảo tính có sẵn cụm server , sử dụng cân tải để thực kiểm tra “ health checks” server Để đảm bảo cân tải không bị tải cài đặt nhiều cân tải hoạt động Chúng ta giải thiết có cố trung tâm liệu chứa server cân tải hoạt động điện, động đất lũ lụt? Tất nhiên người dùng truy cập vào website Để tránh trường hợp xảy ra, cài đặt website nhiều trung tâm liệu khác sử dụng GSLB để đồng trung tâm Phương án đảm bảo , có trung tâm bị hỏng, trung tâm khác hoạt động Domain Name System ( DNS ) GSLB đạt nhiều cách khác nhau, cách dùng nhiều DNS Khi người dùng truy cập vào website ví dụ www.facebook.com chẳng hạn, “ facebook.com” tên miền (domain) , có nhiều loại tên miền khác nhau, định đuôi chúng Ví dụ tên miền com ( trang web thương mại ) , tên miền org( giáo dục) Trong tên miền lại có tên miền gọi vùng tên miền Ví dụ : “ pics.facebook.com” “ video.facebook.com” Một tên miền lưu trữ nhiều DNS khác , có DNS có thẩm quyền cao Load Blancing 20 ( authoritative DNS) , DNS có trách nhiệm cập nhật tất thay đổi cho DNS có thẩm quyền thấp Cân tải DNS Có phương pháp cân tải với DNS : round robin , random location-based Trong " round robin" phương pháp xem dễ thực thông dụng * ROUND ROBIN LOAD BALANCING ( Luân chuyển vòng DNS ) Hầu hết biết, sở liệu DNS đồ hóa tên host thành địa IP Load Blancing 21 Khi bạn nhập URL vào trình duyệt (ví dụ www.loadbalancedsite.com) trình duyệt gửi yêu cầu đến DNS yêu cầu trả địa IP site Đây gọi việc tra cứu DNS Sau trình duyệt Web có địa IP cho site liên hệ với site địa IP, hiển thị trang mà bạn vừa yêu cầu Máy chủ DNS thường có địa IP đồ hóa với tên site Trong ví dụ riêng site làwww.loadbalancedsite.com đồ hóa thành địa IP 203.24.23.3 Để cân tải DNS, máy chủ DNS phải trình số địa IP khác cho tên site Nhiều địa IP thể nhiều máy cluster, tất số chúng đồ hóa đến tên site logic Trong ví dụ chúng ta, www.loadbalancedsite.com cấu hình ba máy chủ cluster với địa IP đây: 203.34.23.3 203.34.23.4 203.34.23.5 Trong trường hợp này, máy chủ DNS đồ hóa sau: www.loadbalancedsite.com 203.34.23.3 www.loadbalancedsite.com 203.34.23.4 www.loadbalancedsite.com 203.34.23.5 Load Blancing 22 Khi yêu cầu đến máy chủ DNS, trả địa IP 203.34.23.3, máy Khi có yêu cầu thứ hau, trả địa IP thứ hai: 203.34.23.4 Tiếp tục vậy, với yêu cầu thứ tư, địa IP lại lặp lại Bằng cách sử dụng luân chuyển vòng DNS trên, tất yêu cầu site phân phối đến tất máy cluster Chính vậy, với phương pháp cân tải này, tất nút cluster sử dụng Ưu điểm phương pháp luân chuyển vòng DNS Các ưu điểm phương pháp nằm chỗ rẻ dễ dàng: • Không đắt dễ dàng thiết lập: Các quản trị viên hệ thống cần tạo số thay đổi máy chủ DNS để hỗ trợ việc luân chuyển vòng, nhiều máy chủ DNS có hỗ trợ Nó không yêu cầu đến thay đổi mã ứng dụng Web; thực tế, ứng dụng Web chế cân tải mà bị thực • Đơn giản: Phương pháp không yêu cầu đến chuyên gia mạng việc thiết lập giỡ rối hệ thống trường hợp có vấn đề xay Nhược điểm phương pháp Có hai nhược điểm phương pháp dựa phần mềm không cung cấp hỗ trợ mối quan hệ thời gian thực máy chủ với không hỗ trợ khả có sẵn cao - Không hỗ trợ mối quan hệ thời gian thực máy chủ Mối quan hệ thời gian thực máy chủ khả hệ thống việc quản lý yêu cầu người dùng, máy chủ máy chủ nào, phụ thuộc vào thông tin session trì máy chủ mức sở bản, mức sở liệu Không có khả hỗ trợ mối quan hệ máy chủ, phương pháp luân chuyển vòng DNS dựa vào ba phương pháp Load Blancing 23 đưa để trì kiểm soát session nhận dạng người dùng yêu cầu đến HTTP • Các cookie • Các trường ẩn • Viết lại URL Khi người dùng thực yêu cầu đầu tiên, máy chủ Web trả thẻ văn để phân biệt người dùng Các yêu cầu có thẻ để sử dụng cookie, viết lại URL trường ẩn, cho phép máy chủ xuất để trì session máy khách máy chủ Khi người dùng thiết lập session với máy chủ, tất yêu cầu đến sau thường đến máy chủ Vấn đề trình duyệt lưu địa IP máy chủ Khi Cache hết hạn, trình duyệt thực yêu cầu khác máy chủ DNS để có địa IP có liên kết với tên miền Nếu máy chủ DNS trả địa IP khác, máy chủ khác cluster, thông tin session bị - Không hỗ trợ cho khả có sẵn cao Xem xét cluster có n nút Nếu nút gặp vấn đề yêu cầu thứ n đến máy chủ DNS hướng bạn đến nút hỏng Một router thông minh giải vấn đề cách kiểm tra nút khoảng thời gian đó, phát nút bị hỏng gỡ bỏ chúng khỏi danh sách, yêu cầu gửi đến chúng Tuy vậy, vấn đề tồn nút có ứng dụng Web chạy nút bị hỏng Thay đổi cluster nhiều thời gian để truyền bá đến toàn phần lại Internet Một lý nhiều tổ chức lớn – ISP, công ty, hay đại lý – lưu yêu cầu DNS họ để giảm lưu lượng mạng thời gian request Khi người dùng bên tổ chức thực request hệ thống kiểm tra danh sách tên DNS Cache đồ hóa địa IP Nếu hệ thống phát thấy entry trả địa IP cho người dùng Nếu không phát thấy entry Cache nội ISP gửi request DNS đến máy chủ DNS lưu đáp trả Khi entry lưu hết hạn, ISP nâng cấp sở liệu nội cách liên hệ với máy chủ DNS khác Khi danh sách máy chủ bạn thay đổi, cần đến khoảng thời gian ngắn cho Load Blancing 24 entry lưu mạng tổ chức khác hết hạn tìm kiếm danh sách máy chủ cập nhật Trong suốt chu trình này, máy khách thực hành động “hit” nút máy chủ bị hỏng, ISP máy khách có entry trỏ đến Trong trường hợp vậy, số người dùng ISP truy cập vào site bạn từ lần truy cập ban đầu, trí cluster bạn có máy chủ dư thừa hoạt động Một vấn đề lớn xuất hiên gỡ bỏ (removing) nút so với việc bổ sung Khi bạn bớt nút, người dùng thực “hit” máy chủ không tồn Còn bạn thêm nút máy chủ chưa sử dụng địa IP đến tất máy chủ DNS Mặc dù phương pháp cân số lượng người dùng máy chủ, không hoàn toàn cân tải máy chủ Một số người dùng yêu cầu mức tải cao suốt session họ so với người dùng khác máy chủ khác, phương pháp bảo đảm chống lại bất công 12 DEMO cân tải DNS Bài lab gồm có server, server trang html có nội dung khác để phân biệt với trang khác Để cài đặt đơn giản router tĩnh sử dụng tất thiết bị Các client cấu hình để kết nối từ điểm đến server cục Load Blancing 25 Root-ns : tên server gốc Ns1 ủy quyền cho example.us Ns2 ủy quyền cho test.eu Server ủy quyền cho web.com - Các kỹ thuật cân tải khác nhau: + Round robin + Location based + Random Có nhiều nút A ghi lại www.web.com server khu vực Tất ghi lại client thực truy vấn Round robin load balancing DNS Load Blancing 26 Thuật toán luân chuyển vòng, máy chủ xem ngang hàng xếp theo vòng quay Các truy vấn dịch vụ gửi tới máy chủ theo thứ tự xếp Thực truy vấn thời điểm khác để thấy nội dung khác Load Blancing 27 Count_server_replies.sh ghi lại 100 yêu cầu tới www.web.com đếm số lần trả lời server Location based load balancing DNS Khi thực câu truy vấn vùng ta nhận kiệu khác từ server khác nhau, hay gọi kiểu cân tải theo cục Chạy link client1 thấy trang từ server khác Load Blancing 28 Load Blancing 29 Random load balancing DNS: Trong thuật toán random, kết nối phân cách ngẫu nhiên vào server đứng sau cách sử dụng hàm chọn số ngẫu nhiên Order random: Thứ tự khác sử dụng ghi lại lại client Do đó, máy khách khu vực US truy cập ghi lại cách ngẫu nhiên theo kiểu round robin Load Blancing 30 Load Blancing 31 [...]... pháp cân bằng tải Round Robin DNS: 1 2 Cân bằng tải cho server toàn cầu ( GSLB) Có 2 nhân tố chính thể hiện sự cần thiết của GSLB , đó là khả năng có sẵn cao và thời gian đáp ứng Để đảm bảo tính có sẵn của cụm server , chúng ta sử dụng 1 bộ cân bằng tải để thực hiện kiểm tra “ health checks” đối với server Để đảm bảo bộ cân bằng tải không bị quá tải chúng ta có thể cài đặt nhiều bộ cân bằng tải hoạt... ngẫu nhiên có tính đến Load Blancing 11 quan hệ thành viên trong nhóm hiện tại và quá khứ để tối thiểu hoá khả năng ánh xạ lại Nhìn chung, chất lượng cân bằng tải được xác định một cách thống kê bởi số lượng client tạo ra yêu cầu Như kết cấu tăng giảm về số lượng client theo thống kê, sự đều đặn về chất lượng của thuật toán cân bằng tải sẽ thay đổi nhẹ Để hoạt động cân bằng tải có độ chính xác cao... kết nối hiện đang có trên các server hoặc server trả lời nhanh nhất, …) Thuật toán này thường không được cài đặt trong các bộ cân bằng tài đơn giản, nó thường được sử dụng trong các sản phẩm cân bằng tải của F5 Network e Thuật toán Fastest Thuật toán fastest chọn server dựa trên thời gian đáp ứng của mỗi server (response time), thuật toán này sẽ chọn server nào có thời gian đáp ứng nhanh nhất Thời gian... nhóm - Phần trăm CPU cần thiết để phân tích và lọc các gói của mạng (càng thấp càng tốt) Tất cả các giải pháp cân bằng tải đều cần sử dụng một phần tài nguyên của hệ thống để xem xét gói đến và đưa ra quyết định cân bằng tải và do đó ít nhiều ảnh hưởng đến hiệu năng của mạng Giải pháp cân bằng tải dựa trên bộ điều phối cần kiểm tra, hiệu chỉnh và truyền lại gói tới các host trong nhóm (thường phải sửa... kết nối sẽ được phân một cách ngẫu nhiên vào server đứng sau bằng cách sử dụng một hàm chọn số ngẫu nhiên Mặc dù thuật toán này được cài đặt sẵn trong các bộ cân bằng tải, tuy nhiên nó ít được áp dụng so với các thuật toán khác Load Blancing 12 b Thuật toán round robin (RR): Round robin là thuật toán được sử dụng nhiều nhất trong các hệ thống load balance vừa và nhỏ, nhu cầu mở rộng hệ thống thấp Một... 3 Cân bằng tải bằng DNS Có 3 phương pháp cân bằng tải với DNS : round robin , random và location-based Trong đó " round robin" là phương pháp được xem là dễ thực hiện và thông dụng nhất * ROUND ROBIN LOAD BALANCING ( Luân chuyển vòng DNS ) Hầu hết chúng ta đều biết, cơ sở dữ liệu DNS bản đồ hóa tên host thành các địa chỉ IP Load Blancing 21 Khi bạn nhập một URL vào trong trình duyệt (ví dụ như www.loadbalancedsite.com)... máy chủ DNS Mặc dù phương pháp này có thể cân bằng được một số lượng người dùng trên mỗi máy chủ, nhưng nó không hoàn toàn cân bằng tải máy chủ Một số người dùng có thể yêu cầu mức tải cao hơn trong suốt một session của họ so với những người dùng khác ở trên máy chủ khác, và phương pháp này không thể bảo đảm chống lại được sự bất công bằng đó 12 DEMO cân bằng tải DNS Bài lab gồm có 5 server, mỗi server... được bộ cân bằng tải đảm nhiệm, dựa trên thời gian đáp ứng, bộ cân bằng tải sẽ biết chuyển yêu cầu tiếp theo đến server nào Thuật toán fastest thường được dùng khi các server được cài đặt dọc theo các mạng logic khác nhau, nghĩa là server được đặt ở nhiều nơi khác nhau Như vậy người dùng ở gần server nào thì thời gian đáp ứng của server đó sẽ nhanh nhất, và server đó sẽ được chọn để phục vụ Thuật toán... nhiều hay ít, nếu như máy chủ đó sắp quá tải có thể dẫn đến bị treo Sự cân bằng giữa số kết nối và thời gian đáp ứng sẽ giúp cho bộ cân bằng tải lựa chọn được server phù hợp Observed được đưa ra bởi F5 Network và hầu như không tồn tại trong các phần mềm mã nguồn mở hay các phần mềm nhỏ h Thuật toán Predictive Là sự phát triển tiếp theo của Observed, nhưng trong thuật toán predictive hệ thống sẽ phân... sử dụng thuật toán này có thể dẫn đến việc mất cân bằng tải động nếu như tải của các request liên tục thay đổi trong một khoảng thời gian rộng (ví dụ các yêu cầu cần xem video hoặc tải các file có dung lượng lớn xen kẽ với các yêu cầu đọc thông tin,…) Trong một khoảng thời gian ngắn, hoàn toàn có khả năng phần lớn các yêu cầu có tải cao sẽ được chuyển hướng đến một server Load Blancing 13 d Thuật toán ... cáo nhóm xin giới thiệu giải pháp mà Microsoft sử dụng cho webserver, kỹ thuật cân tải mạng (NLB - Network Load Balancing) Load Blancing 2.Khái niệm Server tảng phân phối ứng dụng quan trọng,... điều này, NLB sửa địa MAC nguồn cho gói đầu nhất, địa MAC nhóm 02-BF- 1-2 - 3-4 chuyển thành 02-h 1-2 - 3-4 , h mức ưu tiên host nhóm Kỹ thuật ngăn không cho thiết bị chuyển mạch tìm địa MAC thực nhóm... tải - Giải pháp cân tải Có nhiều hãng đưa giải pháp cân tải Cisco, Coyote Point, Sun Microsystems với nhiều tính nǎng phong phú Tuy nhiên, bản, nguyên tắc cân tải xuất phát từ quan điểm kỹ thuật