Điều 137 Hiến pháp năm 1992 (sửa đổi) quy định:
Viện kiểm sát nhân dân tối cao thực hành quyền công tố và kiểm sát các hoạt động tư pháp, góp phần bảo đảm cho pháp luật được chấp hành nghiêm chỉnh và thống nhất. Các Viện kiểm sát nhân dân địa phương, các Viện kiểm sát quân sự thực hành quyền công tố và kiểm sát các hoạt động tư pháp trong phạm vi trách nhiệm do luật định [26].
Cụ thể hóa quy định mang tính hiến định này, Bộ luật Tố tụng hình sự đã có nhiều quy định về nhiệm vụ, quyền hạn của Viện kiểm sát nhằm đảm bảo Viện kiểm sát thực hiện tốt chức năng thực hành quyền công tố và kiểm sát việc tuân theo pháp luật trong tố tụng hình sự nói chung và trong kiểm sát xét xử sơ thẩm, phúc thẩm vụ án hình sự nói riêng.
Trong giai đoạn điều tra, pháp luật tố tụng hình sự đã có quy định rất cụ thể về nhiệm vụ, quyền hạn của Viện kiểm sát khi tiến hành kiểm sát điều tra (Điều 113 Bộ luật Tố tụng hình sự), đồng thời quy định trách nhiệm của cơ quan Điều tra trong việc thực hiện yêu cầu và quyết định của Viện kiểm sát (Điều 114 Bộ luật Tố tụng hình sự). Đây là những căn cứ pháp lý quan trọng nhằm đảm bảo cho Viện kiểm sát thực hiện chức năng, nhiệm vụ của mình trong giai đoạn kiểm sát điều tra. Do vậy, kể từ khi thực hiện Bộ luật Tố tụng hình sự năm 2003, Viện kiểm sát đã thực hiện tốt vai trò kiểm sát điều
tra, yêu cầu Cơ quan điều tra khắc phục vi phạm nên chất lượng kiểm sát điều tra không ngừng được nâng cao, tỉ lệ án oan, sai, bỏ lọt tội phạm giảm; các trường hợp lạm dụng bắt khẩn cấp để phục vụ công tác điều tra được khắc phục, hiện tượng hình sự hóa quan hệ dân sự, kinh tế giảm đáng kể; hạn chế tình trạng trả hồ sơ để điều tra bổ sung giữa các cơ quan tiến hành tố tụng… Tuy nhiên, trong giai đoạn xét xử, Viện kiểm sát có những nhiệm vụ, quyền hạn gì thì chưa được quy định cụ thể. Đây là một thiếu sót quan trọng ảnh hưởng rất lớn đến hiệu quả công tác của Viện kiểm sát khi thực hiện chức năng kiểm sát hoạt động tư pháp trong giai đoạn xét xử. Nếu pháp luật tố tụng hình sự không quy định cụ thể Viện kiểm sát được và phải làm những việc gì, mục đích, ý nghĩa của những việc làm đó thì không thể quán triệt để toàn thể cán bộ, Kiểm sát viên nhận thức một cách sâu sắc và tổ chức thực hiện một cách nghiêm túc. Đồng thời, dù có thực hiện tốt nhưng khi phát hiện vi phạm trong hoạt động xét xử của Tòa án thì Viện kiểm sát làm thế nào và căn cứ vào đâu để yêu cầu Tòa án khắc phục vi phạm khi Luật không trao quyền cho Viện kiểm sát. Điều này cho thấy rõ ràng rằng thực trạng pháp luật còn tồn tại nhiều bất cập và mâu thuẫn nhau. Do vậy cần có một cơ chế pháp luật hoàn chỉnh, nhất là pháp luật tố tụng hình sự quy định đầy đủ, rõ ràng những nhiệm vụ, quyền hạn của Viện kiểm sát khi thực hiện chức năng kiểm sát tư pháp trong giai đoạn xét xử để Viện kiểm sát cũng như Kiểm sát viên căn cứ vào đó mà thực hiện, tránh trường hợp lạm quyền hoặc không làm hết những nhiệm vụ của mình.
Một vấn đề đặt ra đó là hiện nay có nhiều quan điểm khác nhau xung quanh chức năng kiểm sát xét xử vụ án hình sự của Viện kiểm sát nhân dân. Trong giới nghiên cứu đã và đang có quan điểm cho rằng chỉ nên giao cho Viện kiểm sát nhiệm vụ thực hiện quyền công tố trong giai đoạn xét xử vì chức năng kiểm sát xét xử làm ảnh hưởng tới nguyên tắc "Thẩm phán và Hội thẩm xét xử độc lập và chỉ tuân theo pháp luật" (Điều 16 Bộ luật Tố tụng hình sự). Tính độc lập xét xử của Tòa án có nghĩa khi xét xử, Thẩm phán và Hội
thẩm chỉ căn cứ vào quy định của pháp luật, căn cứ vào chứng cứ hợp pháp để xét xử và tuyên bản án trên cơ sở khách quan tranh tụng tại phiên tòa một cách dân chủ, công khai, không một cá nhân, cơ quan, tổ chức nào có quyền can thiệp, chỉ đạo, định hướng Thẩm phán và Hội thẩm khi xét xử. Tuy nhiên, độc lập không có nghĩa là khi xét xử, Thẩm phán và Hội thẩm không chịu bất kỳ sự giám sát nào bởi lẽ nếu độc lập theo hướng như vậy sẽ tất yếu dẫn đến tình trạng độc quyền, lạm quyền. Hơn nữa xét xử là một hoạt động nhân danh quyền lực nhà nước, vừa là chấp hành pháp luật vừa là hoạt động áp dụng pháp luật. Do vậy, khi xét xử Tòa án phải tuân thủ nghiêm chỉnh các quy định của pháp luật trước khi áp dụng pháp luật đối với các đối tượng khác. Nhưng liệu Tòa án có tuân thủ và chấp hành nghiêm chỉnh quy định của pháp luật không thì cần phải có một cơ quan tiến hành giám sát chặt chẽ hoạt động này của Tòa án. Về mặt lý luận cũng như thực tiễn cần hiểu rằng hoạt động kiểm sát xét xử của Viện kiểm sát không phải là nhằm cản trở hoạt động xét xử, mà nó không những là cơ sở để Thẩm phán và Hội thẩm xem xét lại tính hợp pháp, tính có căn cứ của các hành vi tố tụng và các phán quyết của mình mà còn là điều kiện để Tòa án xét xử đúng người, đúng tội, đúng pháp luật.
Qua sự phân tích trên cho thấy vị trí, vai trò và trách nhiệm của Viện kiểm sát, của Kiểm sát viên trong kiểm sát xét xử vụ án hình sự là rất quan trọng. Tòa án có chấp hành đúng các quy định của pháp luật tố tụng hình sự hay không, bản án của Tòa án có đúng người, đúng tội, đúng pháp luật hay không, các quyền và nghĩa vụ tố tụng của người tham gia tố tụng ở giai đoạn xét xử có được đảm bảo, tôn trọng và thực hiện hay không phụ thuộc rất lớn vào hoạt động của Kiểm sát viên. Tuy nhiên, trên thực tế việc thực hiện chức năng kiểm sát xét xử sơ thẩm, phúc thẩm vụ án hình sự của Viện kiểm sát vẫn còn nhiều tồn tại và hạn chế, Kiểm sát viên vẫn chưa thực sự sử dụng triệt để quyền năng tố tụng mà pháp luật quy định để thực hiện tốt hơn nữa vai trò của mình. Tình trạng kiểm sát thẩm quyền thụ lý của Toà án, việc đề nghị thay đổi mìnhh viên trong Hội đồng xét xử và Thư ký phiên tòa, việc kiến nghị với
Tòa án phải khắc phục ngay một số sai phạm của Tòa hay rút kinh nghiệm chung đối với các vi phạm như để quá hạn xét xử, thành phần Hội đồng xét xử không đúng luật, việc thực hiện quyền kháng nghị phúc thẩm vẫn chưa bảo đảm khách quan, toàn diện, đầy đủ và thiếu tinh thần trách nhiệm của một số Kiểm sát viên.
Việc nhận thức đầy đủ và đúng đắn vị trí, vai trò, trách nhiệm của Kiểm sát viên có ý nghĩa rất quan trọng cả về mặt lý luận và thực tiễn. Kiểm sát viên có nhận thức đúng, đầy đủ về vị trí, vai trò của mình thì mới đề cao tinh thần trách nhiệm và sử dụng đúng đắn, triệt để và có hiệu quả quyền năng tố tụng của Viện kiểm sát trong kiểm sát xét xử sơ thẩm, phúc thẩm vụ án hình sự. Và do vậy, vấn đề mà chúng ta cần quan tâm không phải là bãi bỏ nhiệm vụ kiểm sát xét xử của Viện kiểm sát mà quan trọng là ở chỗ phải có phương thức kiểm sát như thế nào để vừa đảm bảo tính giám sát Nhà nước đối với Hội đồng xét xử vừa không làm ảnh hưởng tới nguyên tắc độc lập xét xử của Tòa án.