Hiến pháp năm 1992, ra đời trong bối cảnh đất nước đang trong tiến trình thực hiện đường lối đổi mới toàn diện, do Đại hội Đảng toàn quốc lần thứ VI đề ra.
Ngày 15/4/1992 tại kỳ họp thứ 11, Quốc hội khóa VIII của nhà nước ta đã thông qua Hiến pháp năm 1992 thể chế đường lối đổi mới của Đảng Cộng sản Việt Nam. So với Hiến pháp năm 1980 các quy định về Viện kiểm sát nhân dân trong Hiến pháp năm 1992 đã có sự kế thừa những quy định của Hiến pháp năm 1980, đồng thời có những điểm mới mang tính điển hình về nguyên tắc tổ chức và hoạt động. Viện kiểm sát nhân dân trong Hiến pháp năm 1992 vẫn giữ nguyên quy định Viện kiểm sát có hai chức năng là chức năng thực hành quyền công tố và kiểm sát việc tuân theo pháp luật và những
quy định về tổ chức bộ máy của hệ thống cơ quan này về căn bản không có gì khác so với trước đây.
Tháng 4 năm 2001, Đại hội đại biểu toàn quốc lần thứ IX của Đảng ta đã tiến hành, đánh dấu một bước quan trọng trong tiến trình cải cách bộ máy nhà nước. Khẳng định việc đẩy mạnh cải cách tổ chức và hoạt động của Nhà nước, phát huy dân chủ, tăng cường pháp chế nhằm xây dựng nhà nước pháo quyền chủ nghĩa dưới sự lãnh đạo của Đảng. Nghị quyết Đại hội Đại biểu toàn quốc lần thứ IX của Đảng nêu rõ phải cải cách tổ chức nâng cao chất lượng hoạt động của các cơ quan tư pháp, nâng cao tinh thần trách nhiệm của cơ quan và cán bộ tư pháp trong công tác điều tra, bắt, giam, xét xử, thi hành án, không để xảy ra các trường hợp oan, sai. Trong Nghị quyết Hội nghị lần thứ tư Ban chấp hành Trung ương Đảng nêu rõ: Cần sửa đổi, bổ sung chức năng, nhiệm vụ của Viện kiểm sát nhân dân theo hướng Viện kiểm sát nhân dân chỉ thực hiện quyền công tố và kiểm sát các hoạt động tư pháp, không thực hiện chức năng kiểm sát việc tuân theo pháp luật của các cơ quan, tổ chức nhằm đảm bảo Viện kiểm sát nhân dân các cấp thực hiện tốt chức năng công tố và kiểm sát các hoạt động tư pháp.
Trong lần sửa đổi Hiến pháp năm 2001, vấn đề chức năng, nhiệm vụ của Viện kiểm sát được tranh luận khá sôi nổi, nhất là vấn đề chức năng kiểm sát chung của hệ thống Viện kiểm sát nhân dân. Kết cục, theo Nghị quyết sửa đổi, bổ sung một số điều của Hiến pháp năm 1992 (Nghị quyết số 51/2001/QH10 ngày 25/12/2001), chức năng kiểm sát chung (kiểm sát việc tuân theo pháp luật của các cơ quan, tổ chức, cá nhân) đã bị bãi bỏ. Viện kiểm sát nhân dân được yêu cầu tập trung vào làm tốt hai công tác chính là thực hành quyền công tố và kiểm sát các hoạt động tư pháp (các hoạt động như khởi tố, điều tra, tạm giam, tạm giữ, xét xử, thi hành án). Cụ thể, theo Nghị quyết số 51/2001/QH10, Điều 137 Hiến pháp 1992 được sửa đổi như sau:
Viện kiểm sát nhân dân tối cao thực hành quyền công tố và kiểm sát các hoạt động tư pháp, góp phần bảo đảm cho pháp luật được chấp hành nghiêm chỉnh và thống nhất. Các Viện kiểm sát nhân dân địa phương, các Viện kiểm sát quân sự thực hành quyền công tố và kiểm sát các hoạt động tư pháp trong phạm vi trách nhiệm do luật định [37].
Trên cơ sở quy định mới này, ngày 02/04/2002, Quốc hội đã ban hành Luật số 34/2002/QH10 về Tổ chức Viện kiểm sát nhân dân (gọi tắt là Luật Tổ chức Viện kiểm sát nhân dân năm 2002). Điều 1 đạo luật này quy định rõ: Viện kiểm sát nhân dân thực hành quyền công tố và kiểm sát các hoạt động tư pháp theo quy định của Hiến pháp và pháp luật. Viện kiểm sát nhân dân tối cao thực hành quyền công tố và kiểm sát các hoạt động tư pháp, góp phần bảo đảm cho pháp luật được chấp hành nghiêm chỉnh và thống nhất. Các Viện kiểm sát nhân dân địa phương thực hành quyền công tố và kiểm sát các hoạt động tư pháp ở địa phương mình. Các Viện kiểm sát quân sự thực hành quyền công tố và kiểm sát các hoạt động tư pháp theo quy định của pháp luật.
Sau hơn mười năm Hiến pháp 1992 sửa đổi, bổ sung năm 2001 có hiệu lực thi hành, Viện kiểm sát nhân dân đã thể hiện được vị trí, vai trò của mình trong hệ thống các cơ quan nhà nước, tổ chức và hoạt động của Viện kiểm sát nhân dân được nâng lên rất nhiều. Tuy nhiên đến nay đất nước có nhiều thay đổi trong bối cảnh tình hình quốc tế có nhiều biến đổi to lớn, sâu sắc và phức tạp. Vì vậy mà ngày 28 tháng 11 năm 2013 tại kỳ họp thứ 6 Quốc hội khóa XIII đã thông qua Hiến pháp nước Cộng hòa xã hội chủ nghĩa Việt Nam. Đây là sự kiện chính trị - pháp lý đặc biệt quan trọng, đánh dấu một bước tiến trong lịch sử lập hiến của nước ta. Với bố cục 11 chương 120 điều (giảm 1 chương và 27 điều so với Hiến pháp năm 1992), Hiến pháp năm 2013 thực sự là Hiến pháp thời kỳ đổi mới toàn diện, đồng bộ về kinh tế và chính trị, đáp
ứng yêu cầu xây dựng, bảo vệ, phát triển đất nước và hội nhập quốc tế trong tình hình mới.
Về chế định Viện kiểm sát, Hiến pháp năm 2013 tiếp tục khẳng định chức năng, nhiệm vụ, quyền hạn của Viện kiểm sát nhân dân là thực hành quyền công tố và kiểm sát hoạt động tư pháp, Hiến pháp làm rõ hơn nguyên tắc hoạt động của Kiểm sát viên khi thực hiện quyền công tố và kiểm sát hoạt động tư pháp; sửa đổi quy định về hệ thống tổ chức Viện kiểm sát cho phù hợp với chủ trương cải cách tư pháp.
Từ góc độ tổ chức và hoạt động, Hiến pháp năm 1992 sửa đổi, bổ sung năm 2013 có hai điểm mới:
Thứ nhất: Hiến pháp năm 2013 quy định đầy đủ và cụ thể hơn vai trò của Viện kiểm sát nhân dân trong việc bảo vệ quyền công dân, quyền con người.
Thứ hai: Hệ thống Viện kiểm sát có sự thay đổi bao gồm Viện kiểm sát nhân dân tối cao và các Viện kiểm sát khác do luật định. Quy định này phù hợp với tiến trình cải cách tư pháp hiện nay của đất nước là hệ thống Viện kiểm sát sẽ tổ chức tương ứng với hệ thống Tòa án bao gồm bốn cấp.
Thứ ba: chế định Ủy ban kiểm sát đã không còn được quy định trong Hiến pháp năm 2013 và hoạt động của Viện kiểm sát khác cũng có sự thay đổi đáng kể.
Có thể nói, đây là bước thay đổi lớn về vị trí, vai trò, chức năng, nhiệm vụ, quyền hạn của Viện kiểm sát nhân dân từ khi thành lập (năm 1960) đến nay.