Với sự ra đời của Hiến pháp năm 1959 những quy định về tổ chức bộ máy nhà nước trong Hiến pháp năm 1959 có những sửa đổi căn bản so với Hiến pháp năm 1946. Viện công tố được thay thế bằng VKSND. VKSND cùng với Toà án nhân dân là các cơ quan tư pháp, không còn trực thuộc Hội
đồng Chính phủ mà chịu trách nhiệm báo cáo trước Quốc hội. Khác với Hiến pháp năm 1959, VKSND là cơ quan thực hành quyền công tố, kiểm sát việc tuân theo pháp luật của các cơ quan nhà nước, nhân viên cơ quan nhà nước và công dân. VKSND các cấp chịu sự lãnh đạo thống nhất của VKSND tối cao. Như vậy, theo quy định của Hiến pháp năm 1959 thì VKSND các cấp được tổ chức thành một hệ thống nhất, độc lập với cơ quan xét xử và cơ quan hành chính, chỉ chịu trách nhiệm và báo cáo trước Quốc hội.
Những quy định của Hiến pháp năm 1959 về tổ chức và hoạt động của VKSND các cấp đã được cụ thể hoá bằng Luật tổ chức VKSND năm 1960. Theo quy định tại Điều 4 luật này thì hệ thống VKSND gồm có: VKSND tối cao, các VKSND địa phương và các Viện Kiểm sát quân sự. VKSND có nhiệm vụ và quyền hạn: kiểm sát việc tuân theo pháp luật trong các nghị quyết, quyết định, thông tư, chỉ thị và biện pháp của các cơ quan thuộc Hội đồng Chính phủ và cơ quan nhà nước địa phương, kiểm sát việc tuân theo pháp luật của nhân viên cơ quan nhà nước và công dân; điều tra những việc phạm pháp về hình sự và truy tố trước TAND những người phạm pháp về hình sự; kiểm sát tuân theo pháp luật trong việc điều tra của cơ quan Công an và của cơ quan điều tra khác; kiểm sát việc tuân theo pháp luật trong việc xét xử của TAND và trong việc chấp hành các bản án; kiểm sát việc tuân theo pháp luật trong việc giam giữ của trại giam; khởi tố hoặc tham gia tố tụng những vụ án dân sự quan trọng liên quan đến lợi ích của Nhà nước và của nhân dân.