Khi xét đến kích th−ớc của gói tin IP, câu hỏi đặt ra là:" gói tin có thể lớn bao nhiêu?" không giống nh− kích th−ớc của gói dữ liệu của mạng vật lý do phần cứng công nhận, gói tin IP do phần mềm điều khiển. Độ dài của gói tin do các nhà thiết kế giao thức chọn. Chúng ta thấy rằng trong định dạng của gói tin, phần độ dài gói tin gồm 16 bit, do vậy gói tin có độ dài không đ−ợc lớn hơn 65.535 byte. Tuy nhiên, giới hạn độ dài có thể thay đổi.
Trong tr−ờng hợp lý t−ởng, toàn bộ một gói tin IP phù hợp với một gói dữ liệu vật lý, giúp cho việc truyền dọc theo mạng vật lý có hiệu quả. Trong công nghệ chuyển gói tin, có giới hạn trên cố định cho các gói dữ liệu vật lý. Ví dụ, trong mạng Ethernet giới hạn để chuyển mỗi gói dữ liệu là 1500 byte. Chúng ta gọi giới hạn đó là Đơn vị Truyền tin lớn nhất - Maximum Transfer Unit (MTU).
Khi các gói tin đ−ợc di chuyển qua các mạng khác nhau, có khi các cổng phải chia gói tin thành các phần nhỏ hơn. Bởi vì một gói tin đ−ợc nhận từ một mạng có thể quá lớn để chuyển nh− một gói trong mạng đó. Tr−ờng hợp này chỉ xảy ra khi cổng liên kết các mạng vật lý khác nhau.
Đối với TCP/IP, phần mềm chọn một kích th−ớc gói tin thuận tiện và xếp đặt cách để chia các gói tin lớn thành nhuững phần nhỏ hơn khi gói tin cần truyền qua mạng có MTU nhỏ. Những phần nhỏ mà một gói tin bị chia gọi là các đoạn, quá trình chia một gói tin đ−ợc biết là phân đoạn.
Giao thức IP không giới hạn kích th−ớc nhỏ của gói tin, cũng không đảm bảo là các gói tin lớn sẽ đ−ợc truyền mà không phân đoạn. Phần ch−ơng trình nguồn có thể chọn bất kỳ kích th−ớc nào mà nó cho là phù hợp; việc phân đoạn và hợp lại xảy ra tự động. Chỉ dẫn IP nói rằng các cổng dẫn đ−ờng phải chấp nhận các gói tin có kích th−ớc không lớn hơn MTU của mạng vật lý mà nó đang nối vào. Hơn nữa, các cổng dẫn đ−ờng phải luôn xử lý các gói tin lớn đến 576 byte.
Việc phân đoạn gói tin có nghĩa là chia gói tin thành nhiều gói tin nhỏ. Mỗi gói tin nhỏ có cùng định dạng nh− gói gốc. Và các gói tin đ−ợc hợp lại tại máy đích. Từ thứ hai trong định dạng của gói tin IP (hình 5.3) xác định gói tin có bị chia hay không và chứa đủ thông tin liên kết lại gói tin đã bị chia. Tr−ờng "Identification" xác định gói tin nào bị chia và tr−ờng "Fragmentation Offset" xác định vị trí của gói tin con trong gói tin đã bị chia, còn tr−ờng "Flags" để chỉ rằng các gói tin đã đ−ợc liên kết hết ch−a.