Thứ nhất, phân biệt cơ quan hành chính và cơ quan hành pháp: bộ máy hành pháp được thiết lập để thực hiện tất cả các chức năng của quyền lực hành pháp, trong đó có những hoạt động mang tính chính trị và những hoạt động mang tính chấp hành và điều hành. Sự khác biệt giữa cơ quan hành chính và cơ quan thuộc hệ thống hành pháp không những được coi là cơ quan hành chính ở chỗ nếu như hoạt động của cơ quan hành chính phải tuân thủ một cách nghiêm ngặt các quy định của thủ tục hành chính thì trái lại, đối với hoạt động của một số cơ quan khác trong bộ máy hành pháp lại không nhất thiết phải đặt ra yêu cầu đó. Chẳng hạn như công tác quốc phòng, bảo đảm an ninh quốc gia và đối ngoại mang tính chính trị rõ rệt và đôi khi không thể chấp hành một cách máy móc nguyên tắc công khai, minh bạch hoặc không
thể cho phép sự tham gia rộng rãi của người dân vào quy trình ban hành quyết định, thực tế này đã và đang diễn ra ở các nước trên thế giới.
Ở Việt Nam, do không có sự phân biệt rạch ròi giữa hai loại cơ quan nói trên mà trong hầu hết những đợt cải cách tổ chức Chính phủ gần đây có một cảm giác rằng một số các Bộ như Công an hay Quốc phòng dường như được đặt ở vị trí ngoại lệ.
Vì vậy, đối với Chính phủ cần tiến hành phân loại hai nhóm cơ quan: các cơ quan thực hiện chức năng quản lý Nhà nước mang tính chính trị, trong đó có các cơ quan vừa tham mưu cho Đảng vừa là cơ quan của Chính phủ; và nhóm các cơ quan hành chính Nhà nước.
Loại cơ quan thuộc nhóm thứ nhất hoạt động trong hai lĩnh vực chủ yếu là quốc phòng và ngoại giao. Đối với lĩnh vực này, thực tế cho thấy, mặc dù là cơ quan cao nhất của quyền lực hành pháp song sự tác động của Chính phủ còn phụ thuộc vào quyết định của Quốc hội và sự lãnh đạo tập trung, toàn diện của Đảng. Vì vậy, bộ máy và nhân sự của nhóm cơ quan này nên được lựa chọn theo hai phương án: nhất thể hóa các cơ quan của Đảng và của Chính phủ, bộ máy của những cơ quan này phải do Quốc hội quyết định; phương án thứ hai là đặt ra các cơ quan này trong cơ cấu hành pháp nhưng không quy định chúng là những cơ quan hành chính Nhà nước. Hoạt động đối ngoại và quốc phòng không tuân thủ những thủ tục hành chính và nguyên tắc công khai hóa, những hoạt động có tính chính trị của cơ quan này phải do Quốc hội phê chuẩn.
Như vậy, Luật Tổ chức Chính phủ cần tiến hành phân loại hai nhóm cơ quan trong hệ thống hành pháp: các quan có hoạt động chủ yếu trong lĩnh vực chính trị, bao gồm các Bộ Quốc phòng, Bộ Ngoại giao, các cơ quan vừa tham mưu cho Đảng vừa là cơ quan hành pháp; và nhóm các cơ quan hành chính có hoạt động chủ yếu mang tính chuyên môn bao gồm các Bộ, cơ quan ngang Bộ
khác và cơ quan thuộc Chính phủ. Như vậy, sẽ phần nào giải quyết được mối quan hệ giữa Chính phủ và Quốc hội trong việc quyết định những vấn đề vốn được coi là “vấn đề quan trọng của Nhà nước”;
Thứ hai, phân loại cơ quan hành chính: việc phân loại các cơ quan hành chính có ý nghĩa đặc biệt quan trọng nhằm phân biệt những cơ quan có tính ổn định cao và sự hiện diện của chúng là nhất thiết; thiết kế mô hình tổ chức tương ứng; bảo đảm sự tinh gọn của bộ máy hành chính Nhà nước mà vẫn bảo đảm thực hiện những chức năng của nền hành chính Nhà nước; phân biệt những lĩnh vực cần có sự tác động mạnh mẽ và trực tiếp của Nhà nước mà đại diện ở đây là các cơ quan hành chính và ngược lại, những lĩnh vực cần xã hội hóa hay hạn chế mức độ can thiệp của Nhà nước.
Chủ trương xây dựng Bộ đa ngành, đa lĩnh vực đã được đề ra một cách nhất quán trong các văn kiện quan trọng của Đảng ta, tuy nhiên đến nay, Luật Tổ chức Chính phủ (Điều 22) vẫn có một quy định mang tính khuôn mẫu chung cho tất cả các Bộ, cơ quan ngang Bộ.
Trong cơ cấu Chính phủ hiện nay, đã có dấu hiệu của xu hướng thành lập Bộ “đa ngành” như Bộ Tài chính, Bộ Nông nghiệp và Phát triển nông thôn. Sự khác biệt duy nhất giữa Bộ đa ngành và Bộ đơn ngành chỉ là về quy mô và độ phức tạp của cơ cấu tổ chức. Chức năng, nhiệm vụ, quyền hạn và đặc biệt là vị trí của Bộ trưởng của Bộ đa ngành và Bộ đơn ngành hầu như không có sự phân biệt.
Việc thiết kế mô hình tổ chức các cơ quan hành chính phải bảo đảm tính khoa học và phù hợp với xu hướng xây dựng một nền hành chính dân chủ. Vì vậy, vấn đề đầu tiên cần đề cập ở đây là tiêu chí để hình thành các cơ quan hành chính tầm quốc gia:
- Bộ là một cơ quan độc lập thuộc hệ thống hành pháp, có bộ máy riêng để thực hiện các chức năng về lĩnh vực quản lý nhà nước được giao phụ trách
và hoạt động theo nguyên tắc thủ trưởng. Nguyên tắc, Bộ là cơ quan quản lý ngành, lĩnh vực và việc thành lập các Bộ phải dựa trên hệ tiêu chí phân loại các lĩnh vực hoạt động xã hội và phân loại những lĩnh vực quản lý Nhà nước;
- Cơ quan ngang Bộ, theo lý thuyết là những cơ quan được trao thẩm quyền mang tính liên ngành hoặc vượt quá thẩm quyền quản lý của một ngành. Quyết định của những cơ quan đó được ban hành theo nguyên tắc tập thể (mà không phải theo nguyên tắc thủ trưởng như Bộ). Người đứng đầu cơ quan ngang Bộ phải là thành viên Chính phủ.
Việc phân biệt một cách rạch ròi giữa Bộ và cơ quan ngang Bộ có ý nghĩa quan trọng vì Bộ là những cơ quan có tính ổn định cao và được thành lập theo cách phân loại các lĩnh vực kinh tế - xã hội nhất thiết phải có sự quản lý Nhà nước. Trái lại, cơ quan ngang Bộ chủ yếu chỉ thực hiện một trong những nội dung quản lý Nhà nước là hoạch định chính sách. Chính vì chưa có sự phân loại rõ ràng mà vừa qua, khi xây dựng Nghị định về từng Bộ, cơ quan ngang Bộ đã có câu hỏi đặt ra là liệu cơ quan ngang Bộ có thực hiện hai chức năng như Bộ là quản lý việc cung cấp dịch vụ công và đại diện chủ sở hữu? Từ đây, Điều 22 và 23 của Luật Tổ chức Chính phủ cần được sửa đổi để tránh đồng nhất chức năng, nhiệm vụ của Bộ và cơ quan ngang Bộ. Tương tự như vậy với phương thức hoạt động của hai loại cơ quan này;
- Các Hội đồng và Ủy ban của Chính phủ, của Thủ tướng Chính phủ: là một bộ phận được thành lập một cách tương đối linh hoạt trong cơ cấu hành pháp nhằm thực hiện chức năng tư vấn, phân tích, điều hòa, phối hợp các hoạt động liên ngành. Không thể thừa nhận quy chế cơ quan Nhà nước cho các Hội đồng, Ủy ban vì: không có tiêu chí để phân biệt sự cần thiết thành lập và phân biệt chúng với các Bộ, cơ quan ngang Bộ; quyết định của các cơ quan đó chỉ mang tính tư vấn cho Chính phủ mà không có giá trị bắt buộc mang tính quy phạm pháp luật; hoạt động của chúng mang tính sự vụ và lâm thời; đồng thời
hoạt động của Hội đồng, Ủy ban không tuân theo thủ tục hành chính. Như vậy, trong cơ cấu hành pháp có thể có các Hội đồng, Ủy ban song đây không phải là các cơ quan hành chính Nhà nước và không thuộc hệ thống bộ máy hành chính Nhà nước;
- Bộ đa ngành và đơn ngành: vấn đề này đã và đang được đặt ra khi tiến hành cải cách Chính phủ thời gian gần đây, tuy nhiên quan niệm về Bộ đa ngành còn chưa thống nhất. Nếu xuất phát từ lý luận thì Bộ là cơ quan quản lý Nhà nước về ngành, lĩnh vực. Như vậy, khái niệm “Bộ đa ngành” là không hoàn toàn chính xác. “Bộ đa ngành” ở đây, thực chất là Bộ đa chức năng, được giao thực hiện không chỉ một mà nhiều chức năng. “Bộ đa ngành” cần có tổ chức bộ máy thích hợp song cần bảo đảm chế độ thủ trưởng;
- Về các cơ quan thuộc Chính phủ: đối với Việt Nam, sự hiện diện của các cơ quan thuộc Chính phủ vẫn là một nhu cầu thực tế. Các cơ quan thuộc Chính phủ nên được duy trì và khẳng định đó là những cơ quan hành chính Nhà nước. Điều này kéo theo hệ quả là chúng phải tuân thủ những thủ tục hành chính là yếu tố bảo đảm tính nhân dân của nền hành chính.