Những phân tích về quá trình xếp hàng là một phần cơ bản của đánh giá hiệu năng, bởi vì các hàng đợi (hay “các đường đợi”) hình thành trong các hệ thống viễn thông mỗi khi các khách hàng tranh chấp những nguồn tài nguyên giới hạn. Trong mạng IP không chỉ thực hiện tranh chấp các kết nối, và có thể tạo ra hàng đợi, mà mỗi kết nối được chấp nhận bao gồm một dòng các gói và chúng còn phải đợi tại những bộ định tuyến khi chúng đi ngang qua mạng.
Chúng ta sẽ sử dụng một hàng đợi như một quá trình xử lý toán học nhanh ý tưởng của sự tranh chấp tài nguyên (Hình 2.1): các khách hàng đi đến một hệ thống xếp hàng cần một số lượng dịch vụ xác định, nếu nó không được phép ngay thì chúng sẽ đợi được phục vụ, trong một khu vực lưu giữ (được gọi là một “bộ đệm”, “hàng đợi” hay “đường đợi”); và chờ đợi một khoảng thời gian xác định, chúng được phục vụ và rời khỏi hệ thống. Chú ý rằng thuật ngữ “khách hàng” là sự mô tả chung mà chúng ta sẽ bắt gặp trong vấn đề nguyên tắc xếp hàng và nó được sử dụng để giải nghĩa “các đường đợi bất kỳ đó”; trong IP, khách hàng có thể là các gói, các cụm, các luồng hoặc các kết nối.
Một hệ thống xếp hàng bất kỳ được mô tả bởi những kiểu đi đến của khách hàng, những kiểu dịch vụ của khách hàng, số lượng kênh phục vụ, và dung lượng phục vụ. Kiểu đi đến của các khách hàng là đầu vào tới một hệ thống xếp hàng và đôi khi có thể được chỉ rõ như số lượng trung bình của các gói đi đến trên một đơn vị thời gian (nghĩa là thời gian liên đi đến). Đầu vào đơn giản nhất cho hệ thống xếp hàng bất kỳ có
thể có là “quyết định” (deterministic), trong kiểu đi đến là một khách hàng trên mọi t
đơn vị thời gian, nói cách khác, tốc độ đi đến là 1/t. Không mất tính tổng quát, chúng ta xem xét một kích cỡ gói IP bằng với một tế bào ATM. Như vậy, với dịch vụ tốc độ bit cố định (CBR) 64 kb/s, khi đó tốc độ gói là 167 gói/s, và thời gian liên đi đến là 6 ms. Nếu kiểu đi đến là “ngẫu nhiên” (tức là nó biến đổi trong một số kiểu ngẫu nhiên theo thời gian), thì yêu cầu một quá trình mô tả sâu hơn, ví dụ sự phân bố xác suất của thời gian giữa những lần đi đến. Những lần đi đến có thể là một nhóm thay vì đơn lẻ, và kích cỡ của những nhóm này có thể biến đổi.
Kiểu dịch vụ của khách hàng, như với các kiểu đi đến, có thể được mô tả như tốc độ, µ, của các khách hàng đang được phục vụ, hoặc như một thời gian, s, đòi hỏi để phục vụ một khách hàng. Có một điểm khác biệt quan trọng: thời gian phục vụ hoặc tốc độ phục vụ được đặt điều kiện trên hệ thống là không rỗng. Nếu nó rỗng, trạng thái dịch vụ được gọi là “rỗi”. Tuy nhiên, khi một bộ đệm IP rỗng, một dòng kế tiếp của khe gói rỗng được xuất phát. Do đó, sự phục vụ được đồng bộ và quyết định.
Trong phân tích toán học của một bộ đệm IP, quá trình đồng bộ thường bị bỏ quên – do đó một gói được cho rằng truy cập dịch vụ ngay lập tức nhanh chóng tới truy cập vào một bộ đệm rỗng. Đối với một liên kết 155.52 Mb/s, tốc độ khe gói là 366792 gói/s và thời gian phục vụ mỗi gói là 2.726 µs. Tuy nhiên, một trong tổng số 27 khe gói được sử dụng cho vận hành và bảo dưỡng (OAM) các gói cho những nhiệm vụ hiển thị và đo đạc phong phú. Bởi vậy tốc độ khe gói có giá trị cho lưu lượng là
353208 366792 27 26 = × gói/s
Có thể được lấy gần đúng như một thời gian phục vụ cho mỗi gói bằng 2.831 µs.
Số lượng kênh phục vụ nói đến số lượng bộ phục vụ có thể phục vụ lần lượt khách hàng. Những hệ thống đa kênh có thể khác tuỳ theo sự tổ chức của hàng đợi: mỗi bộ phục vụ có thể có hàng đợi riêng, hoặc có thể chỉ một hàng đợi cho tất cả các bộ phục vụ. Đây là trường hợp thú vị đặc biệt khi phân tích các thiết kế chuyển mạch IP khác nhau.
Dung lượng hệ thống bao gồm khu vực chờ đợi và số lượng kênh phục vụ, và có thể là giới hạn hoặc vô hạn. Rõ ràng trong một hệ thống thực tế, dung lượng phải là giới hạn. Tuy nhiên giả thiết dung lượng vô hạn có thể đơn giản hoá được quá trình