Việc xây dựng nhà nước pháp quyền xã hội chủ nghĩa của dân, do dân và vì nhân dân không những chỉ đòi hỏi sự thay đổi của cơ cấu tổ chức hoạt động của các cơ quan nhà nước ở trung ương, mà còn cả sự thay đổi tổ chức hoạt động của các cơ quan chính quyền nhà nước ở địa phương.
Nhà nước pháp quyền là nhà nước mà các chủ thể của nó phải có quyền hạn và trách nhiệm rõ ràng, và trên cơ sở đó các chủ thể phải chủ động và phải chịu trách nhiệm về mọi hành vi của mình. Trước hết của sự đổi mới này là sự phân định rõ ràng quyền hạn, trách nhiệm của từng cấp chính quyền địa phương. Nhà nước pháp quyền không chỉ dừng lại việc phân định giữa 3 quyền: Lập pháp, hành pháp và tư pháp, mà còn phải được phân định giữa trung ương và địa phương, giữa địa phương và địa phương. Về nguyên tắc, trong nhà nước pháp quyền mọi chủ thể đều có quyền tự nhiên của mình, trong đó có cả các địa phương tạo nên tính tự trị của địa phương. Trong phạm vi quyền hạn tự nhiên của mình các đại phương phải chủ động tự chịu trách nhiệm trước pháp luật, mà không cần thiết phải chịu trách trước chính quyền cấp trên. Sự phối kết hợp giữa các cấp chính quyền cần tuân theo cơ chế hợp đồng.
So với bộ máy của chính quyền trung ương, thì việc tổ chức hoạt động của bộ máy chính quyền địa phương của Việt Nam hiện nay vẫn là thể hiện cơ chế bao cấp rõ nhất và nhiều nhất. Vì sự bao cấp và tập trung chỉ có thể xẩy ra từ trung ương xuống địa phương, chứ không bao giờ có chiều ngược lại.
Sự giản đơn và tập trung bao cấp có thể được thể hiện bằng một loạt những biểu hiện sau đây:
- Thứ nhất, đất nước Việt Nam được chia thành bốn cấp chính quyền nhà nước (kể cả trung ương), theo kiểu các hình chóp nhỏ nằm trong các hình chóp lớn. Việc tổ chức nhà nước địa phương theo kiểu này là rất chắc chắn. Ưu điểm lớn nhất của nó là không để lọt vấn đề phải quản lý, nhưng khuyết điểm lớn nhất của chúng là sự trùng lặp. Các vấn đề quản lý xã hội ở địa phương đều được pháp luật quy định cho tất cả 3 cấp của chính quyền địa phương. Cùng một vấn đề cả 4 cấp chính quyền, kể cả chính quyền trung ương đều phải đứng ra giải quyết, chưa kể đến cấp thôn hiện nay đang được tái hình thành, và có khả năng giải quyết nhiều công việc như thời xưa. Sự trùng lắp không những chỉ có tác dụng lãng phí thời gian tiền bạc của ngân sách nhà nước, cũng như sự đóng góp của nhân dân, mà chính còn là sự chồng chéo, và nhũng nhiễu phiền phức cho nhân dân. - Thứ hai, việc tổ chức và hoạt động của các cấp chính quyền không có sự phân biệt giữa các vùng lãnh thổ khác nhau, giữa nông thôn và thành thị, giữa vùng đồng bằng và miền núi, giữa vùng có dân tộc kinh với các vùng có nhiều dân tộc thiểu số, tức là không có sự phân biệt giữa đơn vị hành chính tự nhiên và đơn vị hành chính nhân tạo. Mặc dù đã có Pháp lệnh của Ủy ban Thường vụ Quốc hội về việc phân biệt thẩm quyền cho chính quyền địa phương các cấp, nhưng như trên đã nêu, và nội dung của pháp lệnh này đã được nâng cấp lên thành những quy định của Luật Tổ chức Hội đồng nhân dân và Ủy ban nhân dân, nhưng những nội dung của Luật này vẫn chỉ dừng ở mức độ chung cho mọi cấp.
Cơ cấu tổ chức và hoạt động của các cấp chính quyền cấp dưới là bản sao của chính quyền cấp trên. Cấp trên có cơ cấu tổ chức nào và các hình thức hoạt động nào, thì ở cấp dưới cũng có những cơ cấu và hình thức đó. Mô hình này được tổ chức theo của Xô viết, mà đặc trưng của nó là các cấp chính quyền địa phương đều được tổ chức giống nhau. Ở cấp nào cũng có Hội đồng nhân dân (Xô viết) do dân trực tiếp bầu ra và đều được gọi là cơ quan quyền lực nhà nước ở địa phương, hoạt động một cách hình thức.
Cách tổ chức này không phân biệt các quận, hạt có nhiệm vụ quản lý nhà nước về một lĩnh vực nhất định nào đấy xuất phát từ nhu cầu quản lý chung của nhà nước, với các cộng đồng lãnh thổ dân cư được hình thành một cách tự nhiên bền vững, cần phải có những quyết định phản ánh nhu cầu từ cộng đồng dân cư, khác với các vùng lãnh thổ khác, mà pháp luật và các quyết định quản lý nhà nước cấp trên không có điều kiện thể hiện. Quan hệ trung ương và địa phương không rõ ràng, thiếu thủ tục làm việc, nặng về cơ chế cấp phát, xin cho.
Đầu mối tổ chức các cơ quan chuyên môn của Ủy ban nhân dân các cấp cũng còn nhiều nặng nề. Việc kiến thiết tổ chức các cơ quan chuyên môn của Ủy ban nhân dân còn rập khuôn và tương ứng với các bộ, ngành trung ương. Tức ở trung ương có bộ, ngành nào thì ở địa phương cũng có các cơ quan chuyên môn đó tương ứng. Số lượng, tên gọi của các cơ quan chuyên môn của mỗi địa phương cũng dập khuôn giống nhau mặc dù đặc điểm tính chất, yêu cầu quản lý ở mỗi địa phương có sự khác nhau.
- Thứ ba, việc tổ chức và hoạt động các cấp chính quyền không tạo điều kiện cho việc chủ động sáng tạo của các cấp chính quyền cấp dưới, nặng về việc cấp dưới xin ý kiến chỉ đạo, hoặc phê duyệt của cấp trên, theo cơ chế "xin - cho". Các cấp chính quyền trong hoạt động không dựa vào pháp luật, không coi pháp luật là cơ sở hoạt động của mình, mà chỉ dựa vào ý kiến chỉ đạo của cấp trên. Việc tổ chức và hoạt động của chính quyền địa phương mang nặng nhiều quy định còn thể hiện ở sự bảo trợ của chính quyền cấp trên, hạn chế sự chủ động, sáng tạo của chính quyền cấp trên, hạn chế vai trò của pháp luật, nhiều quyết định của chính quyền đã được thông qua, nhưng không có hiệu lực thi hành ngay, mà còn phải chờ sự phê chuẩn của cấp trên.
- Thứ tư, việc tổ chức chính quyền địa phương trước đây quá lệ thuộc một cách chủ quan của tư duy cũ muốn tiến nhanh, tiến mạnh, một cách vội vàng lên chủ nghĩa xã hội, bằng cách nhập một loạt các đơn vị hành chính lại, để cho chúng có đủ dân số và đất đai với quy mô lớn, mà không phù hợp với trình độ quản lý của chúng ta. Với cách thức suy nghĩ như vậy đã làm cho nhiều đơn vị hành chính trở lên bị thua thiệt, kém phát triển.
Do cả một thời kỳ quá dài phải duy trì cơ chế bao cấp tập trung, nên nhìn chung hiện nay, bên cạnh các địa phương không chủ động giải quyết các công việc có liên quan đến địa phương là việc chính quyền trung ương luôn luôn can thiệp vào những hoạt động của chính quyền địa phương. Thậm chí nhiều quy phạm trong hệ thống pháp luật hiện hành vẫn còn thể hiện rất đậm nét cơ chế này. Vì vậy, một trong những vấn đề nóng bỏng hiện nay là cần phải phân cấp quản lý nhà nước giữa trung ương và địa phương. Chủ trương chung của phân cấp giữa trung ương và địa phương là: Những việc gì, ở cấp nào có điều kiện và khả năng thực hiện tốt thì phân giao cho đầy đủ quyền hạn và đảm bảo những điều kiện cần thiết cho cấp đó giải quyết. Cơ quan được phân giao thẩm quyền phải hoàn toàn chịu trách nhiệm về quyết định của mình.
Tiếp theo sự phân định, phân quyền giữa trung và địa phương, địa phương với địa phương là sự phân quyền giữa các cơ quan Hội đồng nhân dân và Ủy ban nhân dân. Trên cơ sở này mà các cơ quan chính quyền địa phương phải chịu trách nhiệm trước các hành vi hoạt động của mình. Sự phân định và sự chịu trách nhiệm này gần tương tự sự phân định, sự chịu trách nhiệm giữa các cơ quan lập pháp pháp và hành pháp ở trung ương.
Hãy xem nhận định của một nhà chính trị học Alfred De Grazia để minh chứng cho nhận định trên: “Những hội đồng địa phương hoạt động theo những thủ tục lập pháp tương tự như những thủ tục của nền lập pháp quốc gia. Đành rằng chính sách lưỡng viện rất hiếm trong những chính quyền địa phương, song hội đồng đô thị hay thị xã duy nhất góp lại những đề nghị, họp thành ủy ban để cứu xét những đề nghị đã rồi thảo luận và bỏ thăm về những đề nghị ấy theo thể thức tương tự như thể thức trong nền lập pháp quốc gia. Vị Chủ tịch Hội đồng, một khi được nhân dân bầu ra, cũng xử sự trong nhiều phương diện như một vị Tổng thống hay Thủ tướng, và hợp lực cùng các viên chức hành chính cao cấp khác để hoàn thành những nhiệm vụ như ấn định kế hoạch, tổ chức, tuyển mộ nhân viên điều khiển, ấn định ngân sách, v.v..., nói tóm lại các chức vụ tương tự về nhiều phương diện chính như những chức vụ do những viên chức khác thuộc cấp bậc lớn hơn thực hiện...”