Tầng mạng là tầng thấp nhất của kiến trúc giao thức TCP/IP. Các giao thức trong tầng này cung cấp biện pháp cho hệ thống chuyển giao dữ liệu giữa các thiết bị được kết nối trực tiếp. Nó mô tả cách sử dụng mạng để truyền một gói thông tin IP. Không giống những giao thức của tầng cao hơn là sử dụng dịch vụ của tầng dưới nó và cung cấp dịch vụ cho tầng trên, giao thức của tầng mạng cần phải biết chi tiết của mạng vật lý phía dưới (cấu trúc của gói, địa chỉ, vv...) để định dạng đúng thông tin sẽ được truyền tuân theo những ràng buộc của mạng. Tầng mạng của TCP/IP chứa các chức năng tương ứng của 3 tầng thấp nhất của mô hình tham chiếu OSI (tầng mạng, tầng liên kết dữ liệu, tầng vật lý). Tầng mạng thường không được người dùng để ý tới vì thiết kế của TCP/IP che dấu những chức năng của tầng thấp nhất này và những điều cần biết cho người sử dụng cũng như người lập trình chỉ là những giao thức của các tầng cao hơn (IP, TCP, UDP, vv...). Mỗi khi có công nghệ phần cứng xuất hiện, những giao thức tầng mạng phải được phát triển để TCP/IP có thể sử dụng phần cứng mới (thông thường đó chính là các trình điều khiển của chính nhà cung cấp phần cứng đó). Các chức năng trình diễn trong tầng này bao gồm đóng gói gói thông tin IP thành các "Frame" được truyền dẫn trên mạng và chuyển địa chỉ IP thành địa chỉ vật lý sử dụng bởi mạng máy tính. Một trong số các điểm mạnh của TCP/IP là địa chỉ của nó được phối hợp sao cho trên mạng Internet không có một thiết bị mạng nào cùng tên. Địa chỉ này phải được chuyển đổi thích hợp với địa chỉ mạng vật lý nơi mà dữ liệu được truyền đi.
Hai ví dụ RFCs mô tả giao thức sử dụng cho tầng mạng là:
RFC 826: Giao thức chuyển đổi địa chỉ chuyển đổi địa chỉ IP thành địa chỉ Ethernet
RFC 894: Một chuẩn cho việc truyền gói tin IP qua mạng Ethernet mô tả cách thức đóng gói để truyền thông tin qua mạng Ethernet.
Khi cài đặt trong UNIX, giao thức của tầng này được xem như sự phối hợp của chương trình điều khiển thiết bị và các chương trình liên quan. Những đơn vị tương ứng với những thiết bị mạng làm nhiệm vụ đóng gói dữ liệu và chuyển giao cho mạng.