Hiến pháp là đạo luật cơ bản và quan trọng nhất trong hệ thống pháp luật Việt Nam. Tất cả các ngành luật khác đều được hình thành trên cơ sở những nguyên tắc của Hiến pháp.
Hiến pháp năm 1992 (sửa đổi) quy định: Chế độ chính trị, kinh tế, văn hoá, xã hội, quốc phòng, an ninh; quyền và nghĩa vụ cơ bản của công dân; cơ cấu, nguyên tắc tổ chức và hoạt động của các cơ quan nhà nước, trong đó có Cơ quan thực hành quyền công tố là VKSND, cụ thể:
Điều 137: Viện kiểm sát nhân dân tối cao thực hành quyền công tố và kiểm sát các hoạt động tư pháp, góp phần bảo đảm cho pháp luật được chấp hành nghiêm chỉnh và thống nhất.
Các Viện kiểm sát nhân dân địa phương, các Viện kiểm sát quân sự thực hành quyền công tố và kiểm sát các hoạt động tư pháp trong phạm vi trách nhiệm do luật định.
Điều 138: Viện kiểm sát nhân dân do Viện trưởng lãnh đạo. Viện trưởng Viện kiểm sát nhân dân cấp dưới chịu sự lãnh đạo của Viện trưởng Viện kiểm sát nhân dân cấp trên; Viện trưởng Viện kiểm sát nhân dân các địa phương, Viện trưởng Viện kiểm sát quân sự các cấp chịu sự lãnh đạo thống nhất của Viện trưởng Viện kiểm
sát nhân dân tối cao…Nhiệm kỳ của Viện trưởng Viện kiểm sát nhân dân tối cao theo nhiệm kỳ của Quốc hội.
Điều 139: Viện trưởng Viện kiểm sát nhân dân tối cao chịu trách nhiệm và báo cáo công tác trước Quốc hội; trong thời gian không họp thì chịu trách nhiệm và báo cáo công tác trước Uỷ ban thường vụ Quốc hội và Chủ tịch nước [38].
Như vậy, Hiến pháp hiện hành đã quy định VKS có hai chức năng rất cụ thể là thực hành quyền công tố và kiểm sát các hoạt động tư pháp. Để đảm bảo cho VKS thực hiện tốt chức năng của mình, Hiến pháp quy định nguyên tắc hoạt động tập trung thống nhất; hệ thống cơ quan VKS được tổ chức từ trung ương đến địa phương, Viện trưởng cấp duới chịu sự lãnh đạo của Viện trưởng cấp trên, Viện trưởng VKSNDTC do Quốc hội bầu và chịu sự giám sát của Quốc hội.