Có thể nhận thấy việc tổ chức và hoạt động của bộ máy nhà nước hiệu lực và hiệu quả chưa cao. Việc phân định chức năng, nhiệm vụ, quyền hạn của các cơ quan nhà nước còn chưa thật rõ ràng, chồng chéo về nhiệm vụ và quyền hạn. Chính vì vậy, trong thực tiễn tổ chức bộ máy nhà nước và cơ chế vận hành của quyền lực nhà nước chưa thực sự tạo ra sự đồng bộ, ăn khớp và chưa phát huy hết hiệu lực, hiệu quả của bộ máy nhà nước.
Trước hết là tổ chức, bộ máy của một số bộ phận trong các cơ quan của Quốc hội chưa được sắp xếp hợp lý. Hoạt động lập pháp của Quốc hội còn có phần hạn chế: chương trình xây dựng luật, pháp lệnh chưa thật phù hợp, luật ban hành còn chậm, chưa đáp ứng kịp thời nhu cầu điều chỉnh các quan hệ xã hội chủ yếu bằng luật; kỹ thuật lập pháp vẫn là khâu yếu, luật ban hành thiếu đồng bộ, chậm đi vào cuộc sống, một số luật ban hành chưa phát huy hết tác dụng, chất lượng chưa cao, chưa phù hợp với thực tiễn cuộc sống, còn phải sửa đổi, bổ sung nhiều lần; chưa có sự phân biệt rõ ràng ranh giới giữa hoạt động lập pháp của Quốc hội và hoạt động lập quy của Chính phủ.
Hoạt động giám sát của Quốc hội trong những năm qua đã được tăng cường, đổi mới nhưng vẫn chưa theo kịp thực tiễn, nhiều nội dung giám sát chưa có tác động tích cực đến bộ máy và thực tiễn, hiệu quả giám sát chưa
cao. Quốc hội chủ yếu mới dừng lại ở mức độ phát hiện và phân tích vấn đề, chất vấn các cấp, các ngành, các chức danh có liên quan.
Đối với cơ quan chấp hành của Quốc hội là Chính phủ thì sự phân công, phân cấp giữa các ngành và các cấp chưa thực sự rành mạch; các bộ ngành trung ương chưa thực sự mạnh dạn phân cấp nhiều hơn cho chính quyền địa phương; tổ chức bộ máy vẫn còn cồng kềnh, tầng nấc, phương thức quản lý hành chính còn tập trung, quan liêu, phân tán, chưa thông suốt. Một số uỷ ban, ban chỉ đạo, hội đồng có bộ máy riêng ở trung ương và địa phương, không phù hợp với phương thức hoạt động và phối hợp liên ngành. Cơ cấu bên trong của các bộ, cơ quan ngang bộ và chính quyền địa phương chưa được sắp xếp hợp lý và có xu hướng tăng lên.
Bên cạnh đó, quan điểm về sự thống nhất quyền lực nhà nước, đồng thời có sự phân công và phối hợp giữa các cơ quan nhà nước trong việc thực hiện các quyền lập pháp, hành pháp và tư pháp chưa được làm rõ về nội dung pháp lý nên còn có những nhận thức khác nhau. Tổ chức bộ máy của các cơ quan nhà nước vẫn còn những điểm bất cập, hạn chế. Cải cách bộ máy nhà nước, đặc biệt là cải cách hành chính, cải cách tư pháp triển khai thực hiện còn chậm.
Trong cải cách hành chính, chức năng của các cơ quan hành chính chậm được điều chỉnh cho phù hợp với bước chuyển sang cơ chế kinh tế thị trường định hướng xã hội chủ nghĩa; chậm cụ thể hoá chủ trương, quan điểm của Đảng về tách quản lý nhà nước với sản xuất, kinh doanh, với hoạt động sự nghiệp, dịch vụ công; hệ thống thể chế hành chính chưa đồng bộ, còn chồng chéo và thiếu thống nhất, thủ tục hành chính trên nhiều lĩnh vực còn rườm rà, phức tạp, trật tự kỷ cương chưa nghiêm. Chất lượng của bộ máy mà cụ thể là của đội ngũ cán bộ, công chức chưa đáp ứng yêu cầu; một bộ phận cán bộ, công chức thoái hoá, biến chất, hiện tượng tham nhũng, quan liêu,
nhũng nhiễu dân còn tương đối phổ biến. Bộ máy hành chính ở các địa phương và cơ sở chưa thực sự gắn bó với dân, không kịp thời nắm được những vấn đề nổi cộm trên địa bàn, lúng túng, bị động khi gặp những tình huống phức tạp. Vị trí, vai trò của Hội đồng nhân dân và Uỷ ban nhân dân còn những điểm cần được làm rõ.
Quy định Uỷ ban nhân dân là cơ quan song trùng trực thuộc, vừa chịu trách nhiệm trước Hội đồng nhân dân vừa chịu trách nhiệm trước cơ quan hành chính nhà nước cấp trên chưa được coi là thoả đáng, còn tình trạng là các nghị quyết của Hội đồng nhân dân không được tổ chức thực hiện tốt; vai trò giám sát của Hội đồng nhân dân đối với Uỷ ban nhân dân chưa có cơ sở để phát huy.
Mô hình tổ chức cơ quan chính quyền như nhau ở tất cả các loại đơn vị hành chính đã tạo ra một hệ thống bộ máy chính quyền rập khuôn, không phân biệt được sự khác nhau trong tổ chức quyền lực và quản lý hành chính nhà nước ở đô thị, nông thôn, miền núi, hải đảo; đánh đồng vai trò, chức năng của tỉnh với thành phố trực thuộc trung ương, huyện với quận, thị xã, phường và thị trấn. Cách tổ chức như vậy không phát huy được vai trò của cơ quan đại diện quyền lực ở những đơn vị hành chính cơ bản cũng như vai trò chỉ huy, điều hành của bộ máy hành chính ở những cấp trung gian vốn rất cần sự tập trung cao để bảo đảm liên kết chặt chẽ giữa trung ương và địa phương; gây sự chia tách giữa cơ quan quyền lực nhà nước với cơ quan chấp hành – hành chính. Bên cạnh đó, việc phân định chức trách giữa tập thể, cá nhân và giữa các cá nhân trong Uỷ ban nhân dân còn nhiều vướng mắc; quy định về vai trò, nhiệm vụ, quyền hạn của các thành viên khác với tư cách là Uỷ viên Uỷ ban nhân dân còn chưa rõ ràng, cụ thể.
Cơ chế chịu trách nhiệm của Uỷ ban nhân dân quy định còn chung chung, nhiều phần chưa rõ ràng, thiếu cơ sở, thiếu các hình thức chế tài thích
hợp và ít có tính thực thi. Quy định trách nhiệm tập thể của Uỷ ban nhân dân trước Hội đồng nhân dân và cơ quan hành chính nhà nước cấp trên thiếu cụ thể, đặc biệt là các hình thức chế tài, cơ sở và trình tự áp dụng.
Việc bố trí cơ cấu của các ban của Hội đồng nhân dân chưa hợp lý; hầu hết các thành viên các ban đều kiêm nhiệm nên không có điều kiện thời gian hoạt động. Số thành viên của các ban hiểu biết sâu về chuyên môn còn ít. Ngoài ra, do sự chia tách, thành lập mới các đơn vị hành chính, từ cuối năm 1986 đến nay, số lượng đầu mối các đơn vị hành chính tăng mạnh và kéo theo đó, biên chế hành chính tăng lên: từ năm 1986 đến cuối năm 1998, bình quân hàng năm, biên chế khối cơ quan quản lý hành chính nhà nước tăng 6,1%; đơn vị sự nghiệp tăng 4,6%. Từ sau Đại hội IX đến nay, biên chế của hai khối này vẫn tiếp tục tăng do việc chia tách tỉnh, huyện, do tuyển chọn cán bộ, công chức tiến hành thiếu chặt chẽ.
Về nhánh quyền tư pháp, việc đổi mới tổ chức và hoạt động của các cơ quan tư pháp diễn ra chậm chạp, tổ chức và hoạt động của toà án nhất là hoạt động xét xử chưa phát huy được đầy đủ vai trò của quyền tư pháp trong đời sống xã hội. Thủ tục tố tụng phức tạp, cắt khúc tạo kẽ hở cho việc vi phạm nguyên tắc tố tụng dẫn đến một số trường hợp oan sai nghiêm trọng, làm giảm hiệu quả hoạt động của từng cơ quan, từng giai đoạn tố tụng và giảm hiệu quả chung của hệ thống tư pháp. Những bất hợp lý trong pháp luật tố tụng tuy từng bước được sửa đổi, bổ sung nhưng nhìn chung còn chậm. Bản án, quyết định có hiệu lực pháp luật của toà án chưa được thi hành kịp thời, dứt điểm. Thiếu cơ chế xem xét lại bản án, quyết định đã có hiệu lực, đã hết thời hạn kháng nghị hoặc đã được quyết định ở cấp cao nhất nhưng có vi phạm pháp luật làm oan người vô tội hoặc gây thiệt hại nghiêm trọng đến quyền, lợi ích hợp pháp của công dân theo quy định của Hiến pháp.
Hệ thống toà án chưa được tổ chức hợp lý ở từng cấp, dẫn đến tình trạng có những vụ việc xét xử kéo dài, qua quá nhiều cấp mà không giải quyết dứt điểm, dồn quá nhiều việc cho Toà án tối cao xét xử phúc thẩm, làm cho toà này không đủ điều kiện tập trung vào giám đốc thẩm và tổng kết thực tiễn để hướng dẫn thi hành pháp luật một cách thống nhất. Toà án cấp huyện được tăng thẩm quyền nhưng số lượng thẩm phán vẫn còn thiếu, trình độ chuyên môn, nghiệp vụ còn bất cập, có nơi xét xử không hết án, cơ sở vật chất phục vụ cho xét xử và thi hành án còn nghèo nàn… Trong nội bộ mỗi cấp toà án, cơ cấu tổ chức cũng chưa thật hợp lý. Ngoài ra, pháp luật trong lĩnh vực tư pháp còn chưa được hoàn thiện, thiếu đồng bộ; việc tổ chức, thực hiện các Nghị quyết của Đảng về cải cách tư pháp còn chưa nghiêm.