Từ thế kỷ 19 trở về trước, cấp ngoại giao chưa được quy định thống nhất. Giữa các nước có những danh hiệu và cấp hàm ngoại giao khác nhau, do đó thường xảy ra các cuộc tranh chấp về ngôi thứ trong hàng ngũ các đại diện ngoại giao. Đến năm 1815 - 1818, cấc hội nghị quốc tế ở Viên (Áo) và Elasapen (Bỉ) mới quy định được thống nhất các cấp bậc ngoại giao, nhưng những quy định đó vẫn mang tính chất bất bình đẳng, ví dụ: chỉ các cường quốc đế quốc mới có quyền cử đại diện ngoại giao ở cấp đại sứ, các nước khác chỉ được cử công sứ. Đến năm 1961, Công ước Viên năm 1961 ra đời đã thống nhất quy định về cấp bậc ngoại giao, đảm bảo sự bình đẳng và tôn trọng sự thoả thuận của các quốc gia trong việc xác định cấp bậc ngoại giao, theo đó: Cấp ngoại giao là thứ bậc của người đứng đầu cơ quan đại diện ngoại giao, được xác định theo quy định của Luật Quốc tế và sự thoả thuận của các quốc gia hữu quan. Theo Điều 14, Công ước Viên 1961, người đứng đầu cơ quan đại diện ngoại giao được phân chia thành ba cấp sau: - Cấp Đại sứ (hoặc Đại sứ của Toà thánh và các trưởng đoàn khác có cấp bậc tương đương) do nguyên thủ quốc gia bổ nhiệm.
- Cấp Công sứ (hoặc Công sứ của Toà thánh) do nguyên thủ quốc gia bổ nhiệm - Cấp Đại biện thường trú do Bộ trưởng Bộ ngoại giao bổ nhiệm Theo Điều 15, Công ước thì việc đặt cấp ngoại giao nào của người đứng đầu cơ quan đại diện ngoại giao là tuỳ thuộc vào các nước hữu quan. Hiện nay, cấp Đại sứ là cấp phổ biến của người đứng đầu cơ quan đại diện ngoại giao. Cấp bậc ngoại giao chỉ liên quan đến việc sắp xếp ngôi thứ và nghi thức chứ không có sự phân biệt nào về địa vị pháp lý đối với người đứng đầu cơ quan đại diện ngoại giao xét theo cấp bậc của họ. (Khoản 2, Điều 14). Cần phân biệt cấp Đại biện thường trú với
Đại biện lâm thời. Đại biện lâm thời là người tạm thời thay mặt người đứng đầu cơ quan đại diện ngoại giao khi người đó vắng mặt. Người thay mặt này có thể là một tham tán, bí thư hay tuỳ viên.