Trước hết để áp dụng pháp luật thì phải có pháp luật nói chung, đó là pháp luật về nội dung và pháp luật về hình thức. Cơ sở pháp lý để áp dụng pháp luật trong thực hành quyền công tố là Bộ luật hình sự, Bộ luật tố tụng hình sự và các văn bản pháp luật khác có liên quan. Bộ luật hình sự là văn bản pháp luật duy nhất quy định về tội phạm và hình phạt. Hoàn thiện các quy định của Bộ luật hình sự là yếu tố quan trọng về mặt cơ sở pháp lý cho hoạt động áp dụng pháp luật trong thực hành quyền công tố của Viện kiểm sát. Bộ luật hình sự năm 1985 là Bộ luật hình sự đầu tiên của nước ta kể từ khi nước Việt nam mới ra đời, nó
đã góp phần quan trọng giữ vững an ninh chính trị, trật tự an toàn xã hội; bảo vệ quyền và lợi ích của Nhà nước, quyền và lợi ích hợp pháp của tổ chức, cá nhân. Trước yêu cầu đấu tranh phòng chống tội phạm trong tình hình mới, Bộ luật hình sự năm 1985 không còn phù hợp, vì vậy Bộ luật hình sự năm 1999 được ban hành để thay thế. Các quy định của Bộ luật hình sự năm 1999 đã cụ thể và chặt chẽ, đầy đủ rõ ràng hơn so với Bộ luật hình sự năm 1985. Đây là cơ sở pháp lý quan trọng cho việc áp dụng pháp luật hình sự nói chung, áp dụng pháp luật trong thực hành quyền công tố của Viện kiểm sát nói riêng. Mặc dù Bộ luật hình sự là cơ sở pháp lý quan trọng, nhưng một số quy định của Bộ luật hình sự còn chưa cụ thể, vì vậy khi áp dụng pháp luật hình cần phải xem xét đến các văn bản hướng dẫn, giải thích của cơ quan chuyên môn nhất là các Nghị quyết của Hội đồng Thẩm phán Toà án Tối cao và các văn bản khác có liên quan thì áp dụng pháp luật hình mới được chính xác.
Bộ luật tố tụng hình sự quy định các vấn đề liên quan thẩm quyền, trình tự thủ tục áp dụng pháp luật hình sự của các cơ quan tiến hành tố tụng, trong đó có Viện kiểm sát. Lần đầu tiên năm 1988 Bộ luật tố tụng hình sự của nước Cộng hoà xã hội chủ nghĩa Việt Nam được ban hành, quy định một cách tương đối toàn diện những vấn đề liên quan đến trình tự, thẩm quyền, thủ tục tố tụng giải quyết một vụ án hình sự. Bộ luật tố tụng hình năm 1988 được ban hành đã góp phần quan trọng trong quá trình đấu tranh phòng chống tội phạm có hiệu quả. Đồng thời nó cũng bảo đảm được lợi ích của Nhà nước, quyền và lợi ích hợp pháp của tổ chức xã hội và công dân, phát hiện và xử lý đúng người phạm tội và tội phạm đồng thời cũng tránh làm oan người vô tội. Tuy vậy, trong điều kiện hiện nay, Bộ luật tố tụng hình sự năm 1988 bộc lộ nhiều hạn chế. Để đáp ứng yêu cầu đấu tranh phòng chống tội phạm trong tình hình mới, Bộ luật tố tụng hình sự năm 2003 được ban hành trên cơ sở kế thừa những hạt nhân hợp lý của Bộ luật tố tụng hình sự năm 1988 đồng thời thể chế hoá các quan điểm của Đảng, Nhà nước về cải cách tư pháp, nhằm hoàn thiện và nâng cao chất lượng
công tác điều tra, truy tố, xét xử án hình sự, bảo đảm nguyên tắc mọi tội phạm phải được phát hiện và xử lý kịp thời đúng người, đúng tội, không bỏ lọt tội phạm, không làm oan người vô tội; bảo đảm và bảo vệ các quyền cơ bản của công dân trong tố tụng hình sự.
Ngoài ra cũng cần phải hoàn thiện các văn bản pháp luật khác có liên quan như : Bộ luật dân sự, Luật đất đai, Luật kinh tế… và đặc biệt là các văn bản hướng dẫn thi hành Bộ luật hình sự, Bộ luật tố tụng hình sự của cơ quan nhà nước có thẩm quyền nhất là các cơ quan tư pháp ở trung ương. Trong các văn bản luật hiện nay còn nhiều các quy định có tính chất chung chung, chưa cụ thể dẫn đến việc áp dụng pháp luật còn nhiều bất cập chưa thống nhất, vì vậy các văn bản hướng dẫn áp dụng pháp luật của các cơ quan tư pháp trung ương tuy là văn bản dưới luật nhưng lại có vai trò rất quan trọng bảo đảm hiệu quả hoạt động áp dụng pháp luật trong thực hành quyền công tố của Viện kiểm sát nhân dân. Trong điều kiện hiện nay đòi hỏi việc hoàn thiện các văn bản pháp luật, nhất là các văn bản pháp luật trong lĩnh vực hình sự, tố tụng hình là hết sức cần thiết, để các văn bản pháp luật ngày càng rõ ràng cụ thể hơn tạo điều kiện thuận lợi cho hoạt áp dụng pháp luật nói chung cũng như việc áp dụng pháp luật trong thực hành quyền công tố ở giai đoạn điều tra các vụ án hình sự nói riêng.