Mỗi địa chỉ IP 32 bit đợc chia thành hai phần: phần đầu và phần cuối; phân cấp làm hai mức để dễ dàng cho việc định tuyến. Phần đầu địa chỉ xác định mạng vật lý mà máy tính nối vào, còn phần sau xác định địa chỉ của từng máy tính nối trong mạng đó. Do vậy, mỗi mạng vật lý trong liên mạng đợc thiết lập một giá trị duy nhất gọi là số của mạng (network number). Số của mạng xuất hiện trong phần đầu của địa chỉ của mỗi máy tính nối mạng đó. Hơn nữa, mỗi máy tính trong mạng vật lý cụ thể cũng đợc thiết lập một giá trị duy nhất là phần sau của địa chỉ.
Mặc dù không có hai mạng nào có thể cùng có một giá trị network number và không có hai máy tính nào trong cùng một mạng có cùng giá trị phần sau, nhng một giá trị phần sau có thể sử dụng trong một hoặc nhiều mạng khác nhau. Ví dụ, nếu liên mạng gồn có 3 mạng, chúng có thể đánh số các mạng là 1, 2 và 3. Ba máy tính nối với mạng 1 có thể có giá trị phần sau là 1, 3 và 5, trong khi 3 máy tính nối mạng 2 có thể thiết lập giá trị phần sau là 1, 2 và 3.
Sự phân cấp địa chỉ IP phải đảm bảo hai tính chất quan trọng sau:
•Mặc dù việc thiết lập giá trị network number phải đợc phối hợp trên toàn mạng, nhng phần sau của địa chỉ có thể thiết lập một cách cục bộ.
Tính chất thứ nhất luôn đợc đảm bảo bởi vì một địa chỉ đầy đủ có cả phần đầu và phần sau, và chúng đợc thiết lập đảm bảo tính duy nhất. Nếu hai máy tính nối với hai mạng vật lý khác nhau, địa chỉ của chúng sẽ khác nhau ở phần đầu. Nếu hai máy tính nối với cùng một mạng vật lý thì địa chỉ của chúng khác nhau ở phần sau.