Phần khái quát trên đây cho thấy cải cách hành chính là một quá trình lịch sử lâu dài, bắt nguồn từ các vương triều cổ đại tại Châu Âu, sau đó lan ra các nước thuộc thế giới thứ ba vào nửa cuối thế kỷ 20, và hiện nay lan rộng trên toàn thế giới. Hiện tượng này trở nên nổi bật do nhiều nhân tố, cả từ ngoại tại bộ máy nhà nước, lẫn nội tại các hệ thống chính phủ. Các yêu cầu từ bên ngoài bao hàm các đòi hỏi ngày càng tăng của công chúng về các dịch vụ đa dạng và có chất lượng cao hơn mà nhà nước phải cung cấp cho dân, về việc mở rộng dân chủ và sự tham gia của quảng đại quần chúng nhân dân trong các hoạt động của bộ máy nhà nước, đi đôi với sự cạnh tranh quốc tế trong một thế giới đang toàn cầu hoá buộc mỗi nhà nước phải cải tiến việc thực thi công tác của mình. Ngay trong nội tại của mỗi chính phủ, việc các hoạt động ngày càng trở nên phức tạp và đa dạng hơn khong chỉ đòi hỏi bộ máy chính phủ phải mở rộng phạm vi và chuyên môn hoá hơn nữa, mà còn phải hợp lý hoá việc hoạt động của các đơn vị, tổ chức khác nhau, cũng như hành vi và thái độ của các công chức trong đó.
Cải cách hành chính thời xưa xảy ra chủ yếu tại các nước Phương Tây nơi hệ thống tổ chức chính phủ mang tính chất đặc thù và chi tiết về chức năng, và việc phân bổ vai trò chính trị phần lớn là do thành tựu mà có chứ không phải là nhờ gán cho, điều đó thể hiện đặc trưng của xã hội này. Có thể định ra hai giai đoạn chính. Gia đoạn thứ nhất là một thời kỳ dài chủ yếu liên quan tới việc hình thành và phát triển nên bộ máy hành chính để thay mặt cho mỗi người trong chính thể quản lý nhà nước. Muhataba (1989, tr: 30) lập luận “mặt dù bề mặt là hiệu quả và tiết kiệm, song đó chưa hẳn là trọng tâm của thời này”. Giai đoạn thứ hai chủ yếu liên quan tới kinh tế, hiệu lực, hiệu quả và sự tham gia của nhân dân v.v. khi bộ máy hành chính đã trở nên vững mạnh. Mặc dù các quốc gia chấp nhận các phương thức cải cách khác nhau, mức độ thành công của mỗi nước cũng khác nhau. Những nguyên nhân về thành công hay thất bại trong cải cách có thể là do sự ủng hộ về mặt chính trị hay của nhân dân, cho tới việc lựa chọn các biện pháp và trọng tâm cải cách khác nhau.
Có thể nói rằng cải cách hành chính tại các nước đang phát triển bắt đầu ngay từ những ngày đầu họ giành được độc lập, nhất là giai đoạn sau Đại chiến thế giới lần thứ hai, và trong suốt thập kỷ 50, 60 của Thế kỷ 20. Việc giành được độc lập kéo theo vấn đề hợp lý hoá toàn bộ
bộ máy nhà nước vốn trước đó do các nước đế quốc thực dân lập ra. Mục tiêu và các chức năng của nhà nước mới sau độc lập thay đổi rất nhiều về bản chất, do vậy, các loại hình hoạt động của nhà nước cũng tăng lên đáng kể về số lượng, phạm vi cũng như mức độ. Các đòi hỏi đó đồng thời phát sinh trong hoàn cảnh còn đầy trắc trở, chưa từng có kinh nghiệm trước đây làm cho nhà nước mới này phần nhiều chỉ là phản ứng lại trước tình thế chứ chưa thể kiểm soát được toàn bộ tiến trình theo một kế hoạch tổng thể vạch ra theo một qui trình và luạn cứ khoa học. Đó cũng chính là căn nguyên vì sao các cuộc cải cách hành chính vào cuối thập kỷ 1960 và 1970 atị nhiều nước đang phát triển chưa mang lại nhiều thành công.
Từ đầu thập kỷ 1980, một trào lưu mới về hành chính công phát sinh ra với tên gọi là quản lý công mới do có những thiếu sót tiềm ẩn trong hành chính truyền thống và khởi đầu với một luận thuyết chính trị về vai trò của nhà nước trong đời sống hiện đại. Thực tiễn tập trung quá nhiều vào nhà nước nay được xem là không thể đáp ứng được cho phát triển quốc gia, cho các nhu cầu của nhân dân, cũng như cho đòi hỏi về dân chủ hoá và trách nhiệm báo cáo cao hơn. Chúng ta vẫn thừa nhận vai trò không thể thiếu được của nhà nước, song với tư cách là “điều tiết”, "tạo điều kiện" chứ không phải là kiểm soát và can thiệp thô bạo vào thị trường. Gianh giới giữa khu vực nhà nước và khu vực tư nhân ngày càng trở nên không rõ ràng, nhà nước ngày càng tập trung vào các chức năng mang tính vĩ mô, thu hẹp phạm vi của mình, giảm bớt chi phí, nhân viên, đầu tư và các dịch vụ, đòi hỏi phải có năng suất cao hơn và thực thi công tác tốt hơn trong các lĩnh vực của mình. Để nâng cao được vị thể của quốc gia trong nền kinh tế thế giới, các chính phủ buộc phải xác định lại vai trò và các chiến lược của mình. Để là được như vậy, chắc chắn phải đụng đến bộ máy hành chính, giải quyết các vấn đề bức bối hàng ngày, những hạn chế, trở ngại, tệ quan liêu giấy tờ, phục vụ kém và tệ tham nhũng.
Về cải cách hành chính và quản lý theo hướng quản lý công mới, phần khái quát này cho thấy có những trọng tâm và kết quả, cũng như thất bại của các quốc gia khác nhau. Mặc dù khi so sánh các quốc gia phát triển nhất trong khối OECD thấy rằng không thể đưa ra một mô hình chung, song cũng có thể xác định được một số biện pháp được sử dụng nhiều nhất như: cải cách tài chính và quản lý, phân quyền, ủy quyền và dân chủ hoá. Trong khi các nước khối Ang-lô Xắc-xông (Anh, Ốt-xtra-lia, Niư-Zilơn và Ca-na-đa) chủ yếu là tiến hành cải cách công vụ, thương mại hoá, tập đoàn hoá và tư nhân hoá, thì đặc tính cơ bản trong cải cách của các nước khác như Đức, Pháp, Hà Lan là phi tập trung hoá, còn Mỹ thì thực hiện phi quy chế hoá các hoạt động khu vực tư. Điều này cho thấy là không có một “mô hình” làm khuôn mẫu cho cải cách khu vực nhà nước như một số tác phẩm nêu lên. Trong khi nguyên cớ của cải cách khu vực nhà nước tại các nước OECD là nhu cầu đạt được sự quản trị tốt (good governance) trong một nền kinh tế giao thầu, thì lý do để cải cách tại các quốc gia đang phát triển như Đài Loan, Ma-lay-xia, Hàn Quốc lại khác. Tại các nước này, “các vấn đề quản trị nhất thiết là các vấn đề về quản lý qúa trình xây dựng nhà nước và tăng trưởng kinh tế, để tăng trưởng đòi hỏi phải có điều phối và hợp tác chặt chẽ hơn giữa khu vực nhà nước và khu vực tư nhân” (Cheung, 1997, tr. 448). Mặc dù tại các nước đang phát triển khác cũng dành rất nhiều nỗ lực cải cách hành chính, song kết quả vẫn chưa đạt được như mong muốn. Tại các nước chuyển đổi thuộc Trung, Đông Âu và Liên Xô cũ, cải cách hành chính trước hết được xác định về phần quá trình đi xa khỏi quá khứ chứ chưa phải là dẫn tới một trạng thái vận hành thông suốt hơn.
Chuyển đổi từ cơ chế kế hoạch hoá tập trung, quan liêu, bao cấp sang nền kinh tế thị trường, dân chủ và pháp quyền bắt buộc phải là một quá trình đa ngành, đa lĩnh vực: nó là một hệ thống phức tạp các vấn đề tách bạch nhau, đan xen nhau chằng chịt, tác động tới mọi phương diện của đời sống chính trị, kinh tế và xã hội. Mặc dù các tác phẩm về chuyển đổi
xem xét quá trình này chủ yếu từ quan điểm kinh tế, ngày càng có nhiều học giả quan tâm tới vai trò mà nhà nước và khu vực công nắm tại các quốc gia này. Tiếp theo sự đổi chiều vào năm 1989 và những năm tiếp theo đó, yêu cầu phải cải cách khu vực nhà nước tại các nước chuyển đổi thuộc Trung, Đông Âu và Liên Xô cũ đương nhiên làm cho các nước này học theo lối Phương Tây. Song, nếu cho rằng cách thức đó là lời giải đáp cho mọi vấn đề của mọi quốc gia thì thật là nhầm lẫn. Vấn đề đặt ra là học hỏi và vận dụng như thế nào vào tình huống cụ thể của mỗi quốc gia tho thích hợp. Hơn nữa, do chuyển đổi vẫn tiếp tục nên cuộc tranh luận về phương thức nào, liệu pháp sốc hay chuyển đổi từ từ để mang lại tăng trưởng kinh tế và cải thiện đời sống nhân dân, vẫn diễn ra găy gắt. Mặc dù chưa có dẫn chứng về nước chuyển đổi hoàn toàn thành công, song các kết quả ban đầu mà Trung Quốc và Việt Nam đạt được đã thu hút sự quan tâm của nhiều học giả và các nhà thực tiễn về phát triển trên thế giới.
Phần lớn các tác phẩm viết về Trung Quốc và Việt Nam lập luận rằng thành công của hai nước có được là nhờ vào phương thức tiếp cận cải cách dần dần, tiến hành từng bước vững chắc. Điều quan trọng cần ghi nhận vai trò của nhà nước và quá trình xây dựng thiết chế tổ chức trong chyển đổi. Về lâu dài, sau khi học hỏi những bài học cay đắng rằng kinh tế thị trường không thể mở rộng được nếu như không có chính sách phát triển thoả đáng của nhà nước và các tổ chức vững mạnh, thì cả hai nhóm quốc gia chuyển đổi này, tức là các nước chuyển đổi thuộc Trung, Đông Âu và Liên Xô cũ, Trung Quốc và Việt Nam sẽ có cơ hội thành công trên mặt trận thị trường của mình.
Đối với nước ta, cải cách hành chính là một yêu cầu cả khách quan lẫn chủ quan Về chủ quan, công cuộc cải cách này xuất phát từ yêu cầu thúc đẩy kinh tế, từ chế độ dân chủ hoá ngày càng tăng, và từ đòi hỏi chính đáng của nhân dân phải có các dịch vụ công có chất lượng hơn. Về khách quan, trong một môi trường toàn cầu hoá và vùng hoá hiện nay, không một quốc gia nào có thể đóng cửa trong một nền kinh tế tư cung tự cấp được, mà phải đi theo hướng mở cửa nền kinh tế, mở rộng quan hệ hợp tác đa phương cũng như song phương. Trong bối cảnh cải cách hành chính hiện nay đang đi vào chiều sâu, xử lý những vấn đề then chốt của cả hệ thống và từng bộ phận của hệ thống, việc xem xét lại tiến trình phát triển của hành chính và lược qua các cuộc cải các hành chính treen thế giới chắc chắn sẽ giúp có được một tầm nhìn tổng thể hơn về bức tranh này. Từ đó, có thể đặt ra một số chiến lược và chính sách cải cách thích hợp hơn.