Lý thuyết hàng đợi nảy sinh một cách tự nhiên trong việc nghiên cứu các chuyển mạch kênh, và chuyển mạch gói. Trong các mạng chuyển mạch kênh, cuộc gọi đến chuyển mạch ngẫu nhiên, mỗi cuộc gọi sẽ giữ kênh trong một khoảng thời gian ngẫu nhiên nào đó. Trong mạng chuyển mạch gói, các gói tin với các chiều dài khác nhau đi qua mạng, tài nguyên mạng (các chuyển mạch,kết nối sẽ được chia sẻ cho các gói). Các bản tin được định tuyến đến các node tiếp theo. Thời gian sử dụng bộ đệm (trễ hàng đợi) là một vấn đề quan trọng trong truyền dẫn thông tin. Thời gian này phụ thuộc vào các thời gian xử lý, độ dài bản tin hay thời gian chờ xử lý khi chưa có tài nguyên sử dụng.
Trong các ứng dụng tương tác và thời gian thực thì thời gian trả lời trung bình được xem như một tiêu chuẩn quan trọng còn trong các ứng dụng khác thì thông lượng lại là điều quan trọng nhất. Việc mô tả hàng đợi theo lý thuyết toán học rất phức tạp nên ta chỉ mô tả chúng theo mô hình đơn giản được sử dụng trong các mạng IP:
Hình 3.1: Mô hình hàng đợi đơn giản trong mạng
Tin tức (có thể là gói tin hay bản tin) đến hệ thống để yêu cầu phục vụ. Nếu server rỗi thì gói tin sẽ được phục vụ ngay lập tức, ngược lại chúng sẽ được lưu giữ trong các hàng đợi. Khi rời khỏi hàng đợi các gói sẽ được xử lý.
Các tham số cơ bản liên quan tới hàng đợi:
Server
Queue Dispatchingdiscipline departures
w=items wait
Tw=wait time
q= items in queuing system Tq = queuing time
Ts= service time
P= utilization arrivals
Bảng 3.1 : Bảng các tham số cơ bản của hàng đợi
Tham số Kí hiệu Chú thích
Tốc độ đến TB λ Thời gian gói tin đến hệ thống hàng đợi với
vận tốc λ trên một đơn vị thời gian(s)
Tốc độ rời khỏi TB μ Các gói tin rời khỏi hệ thống với tốc độ μ trên
một đơn vị thời gian Hiệu suất sử dụng
dịch vụ
p Là khoảng thời gian server bận do phải xử lý
lý,đo bằng P= λ /μ
Độ dài TB Lw Là số gói nằm trong hàng đợi trung bình
tại tất cả các thời điểm t
Thời gian đợi TB Tw Có hai định nghĩa:
Thứ nhất: được tính bằng tất cả thời gian gói tin đến xử lý (bao gồm cả các gói không phải chờ trong hàng đợi)
Thứ hai: chỉ tính TB thời gian các gói tin phải chờ trong hàng đợi
Thời gian phục vụ TB Ts Thời gian TB giữa thời điểm gửi gói tới
server và thời điểm rời khỏi server
Độ dài hàng đợi TB Lq Số gói trung bình trong hệ thống, bao gồm
các gói đang được sử dụng và các gói đang chờ trong hàng đợi. (adsbygoogle = window.adsbygoogle || []).push({});
Thời gian xếp hàng TB Tq Thời gian các gói ở trong hệ thống.
Các gói đến hàng đợi với tốc độ thay đổi λ và đây là một quá trình poisson, thời giạ phục vụ có phân bố mũ tốc độ μ (thực chất là thời gian trung bình mà các gói tin rời khỏi hàng đợi). Khi các gói đến hệ thống tăng thì hiệu suất sử dụng hệ thống cũng tăng, dẫn tới tắc nghẽn có khả năng xảy ra. Với p =1 thì các server bão hoà do đó tốc lớn nhất theo lý thuyết mà hệ thống có thể xử lý được là:
λmax= 1/Ts
Tại λmax thì kích thước hàng đợi rất dài không thể kiểm soát được. Trong thực tế
thời gian trả lời và những yêu cầu kích thước hàng đợi giới hạn tốc độ đầu vào của thông tin là 70-90% so với λmax theo lý thuyết.
Tại các router và chuyển mạch trong phần lõi của kiến trúc các dịch vụ phân biệt của mạng Internet có các thuật toán lập lịch và quản lý hàng đợi. Ngày nay kiến trúc dịch vụ phân biệt bao gồm hàng đợi cân bằng có trọng số (WFQ) cùng kĩ thuật tách sớm có trọng số (WRED). Các kĩ thuật trên được sử dụng trong mạng Internet
làm nhiệm vụ điều khiển tắc nghẽn và điều khiển luồng lưu lượng trong mạng. Điều khiển tắc nghẽn là vấn đề quan trọng cần giải quyết trong việc truyền tin trong mạng. Nó sử dụng hai cơ chế độc lập:
• Cơ chế điều khiển vòng kín (Closed Loop control): điều khiển việc truyền
các gói từ các nguồn đầu cuối tới đích
• Các thuật toán lập lịch vòng hở (opened loop control): ràng buộc độ ưu tiên
được cấu hình từ trước và phân phối băng thông cho các kết nối.
Hệ thống điều khiển vòng kín bao gồm các thuật toán nguồn được điều khiển bởi các thuật toán kết nối. Thuật toán nguồn này là bất kì giao thức nào được truyền tải trên mạng Internet (ví dụ: TCP, UDP, RTP) và chúng không nhất thiết phải có phản hồi đáp ứng với tắc nghẽn. Các thuật toán điều khiển kết nối hay còn gọi là các thuật toán quản lý hàng đợi (hoặc quản lý hàng đợi tích cực AQM). Các thuật toán AQM bao gồm thuật toán loại bỏ đuôi, thuật toán phát hiện sớm ngẫu nhiên (RED). Thuật toán AQM thực hiện việc báo hiệu tới nguồn bằng việc đánh dấu các gói, thông báo tắc nghẽn tường minh (ECN) hay loại bỏ các gói.
Các thuật toán lập lịch vòng mở quyết định xem gói nào sẽ được gửi kế tiếp. Thuật toán này quyết định trật tự các gói truyền dẫn trên cơ sở trật tự sắp xếp các gói đến và các lớp lưu lượng ưu tiên trong gói.
Còn dịch vụ phân biệt sử dụng 3 bit trong tiêu đề mỗi gói để định nghĩa lớp. Quá trình lập lịch của gói điều khiển trật tự truyền dẫn giống như phân bố băng thông tương ứng cho mỗi lớp dịch vụ. Lập lịch bao gồm các thuật toán liên quan tới hàng đợi: hàng đợi FIFO, hàng đợi cân bằng có trọng số WFQ, và các thuật toán lập lịch như: Thuật toán RR, thuật toán PS.
Hình 3.2 : Tiến trình xử lý hàng đợi trong router
Để hiểu rõ về các hàng đợi được sử dụng trong có chế điều khiển tắc nghẽn ta phải trả lời các câu hỏi:
• Các gói sẽ được lắp đặt như thế nào trong hàng đợi.
• Thứ tự hay cách thức nào mà các thiết bị mạng phục vụ các hàng đợi của
• Các hoạt động nào của mạng để đối xử với các bó lưu lượng và hàng đợi bị tràn.
Router được xem như hộp lớn, trong đó có các thành phần thực hiện việc truyền thông tin. Trong ví dụ này ta xét router có 2 giao diện. Gói tin đi từ mạng A tới mạng B. Mạng A tiếp xúc với router qua giao diện IF0, mạng B tiếp xúc với router qua giao diện IF1. Sau khi các gói được đưa đến từ giao diện IF0 sẽ được đặt vào trong hàng đợi queue 0 (hàng đợi đầu vào). Tiếp theo các gói đi vào trong router và được định hướng tới router kế tiếp dựa trên địa chỉ đích lưu giữ trong phần header của gói tin,một số gói tin đi ra từ hàng đợi queue 0 được đưa vào hàng đợi queue 1 kết nối với giao diện IF1. Hàng đợi queue1 còn gọi là hàng đợi đầu ra.
Có rất nhiều kĩ thuật hàng đợi: FIFO (first in first out), PQ (priority queue-hàng đợ ưu tiên), FQ (fair queue-hàng đợi cân bằng). FIFO đây là kĩ thuật xếp hàng vào trước ra trước cơ bản. Các gói đến trước sẽ là các gói đầu tiên được xử lý. Khi hàng đợi đầy và có tắc nghẽn xảy ra thì các gói đến sẽ bị loại bỏ. Hàng đợi FIFO dựa vào hệ thống đầu cuối để điều khiển tắc nghẽn thông qua cơ chế điều khiển tắc nghẽn. Do loại hàng đợi này rất đơn giản nhiều khi không điều khiển được tắc nghẽn nên ta thường xét các loại hàng đợi hiệu quả hơn: hàng đợi ưu tiên(PQ), hàng đợi cân bằng (FQ), hàng đợi có trọng số (WQ).