Các cơ quan hành chính nhà nước được phân loại dựa vào những căn cứ khác nhau:
- Căn cứ pháp luật để thành lập; - Trình tự thành lập;
- Vị trí trong hệ thống bộ máy hành chính; - Tính chất thẩm quyền của cơ quan hành chính;
- Hình thức tổ chức và chế độ giải quyết công việc, v.v...
1. Theo căn cứ pháp lý để thành lập
Theo đó, các cơ quan hiến định (do Hiến pháp quy định việc thành lập cơ quan đó) và cơ quan được thành lập trên cơ sở các đạo luật và văn bản dưới luật. Loại thứ nhất gồm Chính phủ các Bộ và các cơ quan ngang Bộ (những cơ quan này do Quốc hội trực tiếp biểu quyết quyết định), Uỷ ban nhân dân các cấp (được thành lập ở các đơn vị hành chính - lãnh thổ). Loại thứ hai gồm cơ quan thuộc Chính phủ, Tổng cục, Cục, Vụ, Viện, Sở, phòng, ban. Các cơ quan thành lập trên cơ sở Hiến pháp có vị trí pháp lý khá ổn định. Các cơ quan thành lập trên cơ sở các đạo luật và các văn bản dưới luật thường ít ổn định, nhưng có tính năng động hơn, phù hợp với những thay đổi của sự quản lý hành chính nhà nước.
2. Theo trình tự thành lập
Theo trình tự thành lập có cơ quan hành chính nhà nước được thành lập do được bầu ra (Uỷ ban nhân dân các cấp - Điều 123 Hiến pháp 1992), và được lập ra
(Chính phủ, các Bộ và cơ quan ngang Bộ). Trình tự thành lập cơ quan rất phức tạp kết hợp cả bầu, bổ nhiệm, đề nghị danh sách để phê chuẩn (xem khoản 7, 8 Điều 84 Hiến pháp 1992).
Có cơ quan hành chính nhà nước do cơ quan quyền lực nhà nước trực tiếp thành lập (Chính phủ, Bộ và cơ quan ngang Bộ, Uỷ ban nhân dân các cấp), do Chính phủ thành lập (một số tổng cục, viện, học viện... cơ quan thuộc Chính phủ), do Uỷ ban nhân dân thành lập (Sở, Phòng, Ban...).
3. Theo vị trí trong hệ thống bộ máy hành chính
Theo đó, các cơ quan hành chính nhà nước chia thành: cơ quan hành chính cao nhất đứng đầu hệ thống hành pháp là Chính phủ, (Điều 109 Hiến pháp 1992 đã được sửa đổi, bổ sung năm 2001, về sau gọi là Hiến pháp 1992); các cơ quan hành chính nhà nước của Chính phủ ở Trung ương (các Bộ, cơ quan ngang Bộ, Tổng cục...), các cơ quan hành chính nhà nước ở địa phương (Uỷ ban nhân dân, sở, phòng, ban - cơ quan chuyên môn của UBND).
Cơ quan hành chính nhà nước cao nhất và cơ quan hành chính nhà nước của Chính phủ ở trung ương (các Bộ) có nhiệm vụ quản lý các ngành, lĩnh vực trên phạm vi cả nước, các cơ quan hành chính nhà nước ở địa phương (UBND, các cơ quan chuyên môn của UBND) - có nhiệm vụ quản lý trong phạm vi một đơn vị hành chính - lãnh thổ nhất định.
4. Theo tính chất thẩm quyền
Theo tính chất thẩm quyền các cơ quan hành chính nhà nước được chia thành: cơ quan hành chính nhà nước có thẩm quyền chung và cơ quan hành chính nhà nước có thẩm quyền riêng. Cơ quan hành chính nhà nước có thẩm quyền chung bao gồm: Chính phủ, Uỷ ban nhân dân các cấp, là những cơ quan quản lý chung mọi ngành, mọi lĩnh vực, mọi đối tượng tương ứng trong phạm vi cả nước hoặc trong phạm vi đơn vị hành chính lãnh thổ (tỉnh, huyện, xã...). Cơ quan hành chính nhà nước có thẩm quyền riêng quản lý trong phạm vi ngành hoặc lĩnh vực, do đó có thể cơ bản chia thẩm quyền riêng thành: cơ quan quản lý ngành, ví dụ như Bộ, Sở, phòng nông nghiệp, công nghiệp...; cơ quan quản lý liên ngành (theo chức năng) ví dụ: Bộ Tài chính, Bộ Lao động thương binh và xã hội, Sở, Phòng Tài chính, Lao
động...
5. Theo hình thức tổ chức và chế độ giải quyết công việc
Theo hình thức này, các cơ quan làm việc theo chế độ tập thể, chế độ thủ trưởng, hoặc kết hợp giữa chế độ tập thể với chế độ thủ trưởng.
Hoạt động của Chính phủ và Uỷ ban nhân dân các cấp có xu hướng chuyển mạnh sang kết hợp giữa chế độ tập thể lãnh đạo với chế độ thủ trưởng nhằm nêu cao vai trò, trách nhiệm người đứng đầu cơ quan (xem các Điều 112, 114, 115 và 124 Hiến pháp 1992).
Theo Điều 115 và 124 Hiến pháp 1992, những vấn đề quan trọng thuộc thẩm quyền của Chính phủ, những vấn đề quan trọng thuộc thẩm quyền Uỷ ban nhân dân phải được thảo luận tập thể và quyết định theo đa số. Như vậy, ngoài những quyền hạn của mình được pháp luật quy định, Thủ tướng Chính phủ và Chủ tịch Uỷ ban nhân dân còn được quyền giải quyết những vấn đề thuộc thẩm quyền của Chính phủ hoặc Uỷ ban nhân dân.
Cơ quan hành chính nhà nước hoạt động theo chế độ thủ trưởng được áp dụng đối với những cơ quan đòi hỏi giải quyết các công việc mang tính tác nghiệp cao và chế độ trách nhiệm là trách nhiệm cá nhân. Thủ trưởng cơ quan là người lãnh đạo về nguyên tắc quyết định mọi vấn đề thuộc thẩm quyền cơ quan, quyết định của thủ trưởng cơ quan là quyết định của cơ quan. Những người là cấp phó thủ trưởng, người đứng đầu các bộ phận cơ quan chỉ là người giúp thủ trưởng cơ quan, thực hiện nhiệm vụ theo sự phân công, phân cấp của thủ trưởng cơ quan. Chế độ này được áp dụng đối với các cơ quan như Bộ, Tổng cục, Sở, phòng, ban. Trong quá trình giải quyết công việc những cơ quan này có thể sử dụng hình thức làm việc tập thể để thảo luận những vấn đề quan trọng, nhưng quyết định của thủ trưởng cơ quan là quyết định cao nhất.
Trong khoa học pháp lý còn có quan niệm khác về cơ quan hành chính nhà nước, thuật ngữ "hành chính" được hiểu là quản lý. Vì vậy, trong hệ thống cơ quan quản lý nhà nước còn gồm cả ban lãnh đạo xí nghiệp, công ty(1). Chúng tôi cho rằng, cơ quan quản lý nhà nước không bao gồm cả những cơ quan ấy, nếu xếp
chung vào hệ thống các cơ quan hành chính nhà nước thì không phù hợp với những quy định của Hiến pháp 1992. Thực ra, đó chỉ là tổ chức thực hiện chức năng hành chính doanh nghiệp.