Hệ thống cơ quan Viện kiểm sát nhân dân đƣợc thành lập trên cơ sở Luật tổ chức Viện kiểm sát nhân dân đƣợc Chủ tịch Hồ Chí Minh ký sắc lệnh số 20/LCT ngày 26 tháng 7 năm 1960.
Luật tổ chức viện kiểm sát năm 1960 nhấn mạnh:
Viện kiểm sát nhân dân tối cao và Viện kiểm sát nhân dân địa phƣơng các cấp thi hành nhiệm vụ trên bằng cách: a) Kiểm sát việc tuân theo pháp luật trong các nghị quyết, quyết định, thông tƣ, chỉ thị và biện pháp của các cơ quan thuộc Hội đồng chính phủ và cơ quan nhà nƣớc địa phƣơng; kiểm sát việc tuân theo pháp luật của nhân viên cơ quan Nhà nƣớc và công dân; b) Điều tra những việc phạm pháp về hình sự và truy tố trƣớc Tòa án nhân dân những ngƣời phạm pháp về hình sự; c)Kiểm sát việc tuân theo pháp luật trong việc điều tra của cơ quan Công an và cơ quan điều tra khác; d) Kiểm sát việc tuân theo pháp luật trong việc xét xử của các Tòa án nhân dân và trong việc chấp hành các bản án; e) Kiểm sát việc tuân theo pháp luật trong việc giam giữ của các trại giam; f) Khởi tố, hoặc tham gia tố tụng trong những vụ án dân sự quan trọng liên quan đến lợi ích của nhà nƣớc và của nhân dân [18], [36].
Ngày 18/4/1962, Chủ tịch Hồ Chí Minh ký Lệnh số 12/LCT công bố Pháp lệnh quy định tổ chức của Viện kiểm sát nhân dân tối cao (đƣợc ủy ban Thƣờng vụ Quốc hội thông qua ngày 16/4/1962). Tại Điều 5 của Pháp lệnh này quy định: Bộ máy của Viện kiểm sát nhân dân tối cao có Vụ Điều tra thẩm cứu [29]. Quy định này đã đánh dấu sự hình thành tổ chức Cơ quan điều tra Viện kiểm sát nhân dân. Viện kiểm sát nhân dân thực hiện điều tra những việc phạm pháp về hình sự theo quy định tại điều 3 Luật tổ chức Viện kiểm sát nhân dân và đƣợc cụ thể hóa bằng Thông tƣ liên bộ số 427/LB ngày 25/6/1963
của Viện Kiểm sát nhân dân tối cao và Bộ Công an hƣớng dẫn quy định này cụ thể: Viện kiểm sát sẽ trực tiếp điều tra một số loại phạm pháp về kinh tế và trị an xã hội mà kẻ phạm pháp và hành vi vi phạm đó tƣơng đối rõ [44].
Ngay từ khi hình thành và trong toàn bộ quá trình phát triển của Viện kiểm sát nhân dân, hoạt động điều tra luôn đƣợc coi là một hoạt động không thể thiếu trong quá trình thực hiện chức năng của ngành kiểm sát. Tuy nhiên, quy mô phát triển, vị trí của hoạt động điều tra trong việc thực hiện chức năng kiểm sát trong mỗi giai đoạn có sự khác nhau. Thời kỳ đầu, trong ngành Kiểm sát, hoạt động điều tra chỉ là một trong những quyền năng của công tác kiểm sát điều tra mà không đƣợc coi là khâu công tác riêng biệt. Vì thế, Viện kiểm sát không có cơ quan điều tra riêng, mà chỉ ở Viện kiểm sát nhân dân tối cao mới tổ chức thành một đơn vị là Phòng Điều tra thẩm cứu. (Mặc dù Pháp lệnh quy định cụ thể về tổ chức của Viện kiểm sát nhân dân tối cao ngày 16/4/1962 quy định trong tổ chức bộ máy của Viện kiểm sát nhân dân tối cao có Vụ Điều tra thẩm cứu). Còn ở các địa phƣơng, thì công tác điều tra thuộc nhiệm vụ của các đơn vị kiểm sát điều tra (Điều 5 của Pháp lệnh quy định cụ thể về tổ chức của Viện kiểm sát nhân dân tối cao ngày 16/4/1962 và Pháp lệnh sửa đổi ngày 15/01/1970).
Mặc dù ở giai đoạn này chƣa có lực lƣợng điều tra chuyên trách, nhƣng hoạt động điều tra đƣợc thực hiện ờ cả 03 cấp: Trung ƣơng, tỉnh, huyện và điều tra với nhiều loại tội (trừ các tội xâm phạm an ninh quốc gia). Đã có thời điểm công tác điều tra còn có chiều hƣớng trội hơn các công tác khác của ngành Kiểm sát. Tổng kết công tác những năm 1970 của ngành Kiểm sát nhân dân đã nêu: “Trước năm 1970 Viện kiểm sát cấp huyện, thị làm công tác điều tra đến 50% và cấp tỉnh điều tra đến 25% số vụ án thụ lý” [41], [16].
Năm 1978, Vụ điều tra thẩm cứu đƣợc thành lập trên cơ sở Phòng Điều tra thẩm cứu thuộc Viện kiểm sát nhân dân tối cao. Luật tổ chức Viện kiểm
sát nhân dân năm 1981, tại khoản 1 Điều 10 quy định: “Trong trường hợp do pháp luật quy định thì Viện kiểm sát nhân dân trực tiếp tiến hành điều tra. Đó là các vụ án do Viện trưởng Viện kiểm sát cấp trên giao và các vụ án Viện trưởng Viện kiểm sát thấy cần thiết phải trực tiếp điều tra” [19].
Trên thực tế, Viện kiểm sát nhân dân vẫn phải tiến hành điều tra khi thấy cần thiết trong các trƣờng hợp: Do yêu cầu chính trị và cấp uỷ giao hoặc khi xét thấy các vụ án do cơ quan Công an điều tra không đƣợc khách quan, toàn diện, cán bộ điều tra vi phạm pháp luật tới mức nếu để họ tiếp tục điều tra sẽ dẫn đến lọt tội phạm, oan sai và dƣ luận xã hội không đồng tình.
Ngày 28/6/1988, Quốc hội nƣớc Cộng hoà xã hội chủ nghĩa Việt Nam đã thông qua Bộ luật tố tụng hình sự đầu tiên của nƣớc ta, có hiệu lực kể từ ngày 01/01/1989. Bộ luật tố tụng hình sự đã quy định trình tự, thủ tục tiến hành các hoạt động tố tụng nhằm giải quyết vụ án hình sự, trong đó có hoạt động điều tra của Cơ quan điều tra và Điều tra viên của Viện kiểm sát nhân dân. Ngày 04/4/1989, Pháp lệnh tổ chức điều tra hình sự cũng đƣợc ban hành nhằm cụ thể hoá một bƣớc về tổ chức và hoạt động điều tra của Cơ quan điều tra cũng nhƣ việc quy định các quyền và nghĩa vụ của Điều tra viên trong tố tụng hình sự. Theo đó, có các hệ thống cơ quan điều tra chuyên trách gồm: Cơ quan điều tra của lực lƣợng Cảnh sát nhân dân, Cơ quan điều tra của lực lƣợng An ninh nhân dân, Cơ quan điều tra An ninh Quân đội, Cơ quan điều tra hình sự Bộ Quốc phòng, Cơ quan điều tra Viện kiểm sát nhân dân.
Luật sửa đổi, bổ sung Luật tổ chức Viện kiểm sát nhân dân đƣợc Quốc hội thông qua ngày 22/12/1988 đã có những quy định cụ thể, rõ ràng về công tác điều tra của Viện kiểm sát nhân dân, coi đó là một cơ quan điều tra chuyên trách, độc lập. Giai đoạn này, Kiểm sát viên không đƣợc tự tiến hành điều tra toàn bộ vụ án nữa, mà hoạt động này đƣợc giao cho Điều tra viên Cơ quan điều tra Viện kiểm sát nhân dân.
Về thẩm quyền điều tra của Cơ quan điều tra Viện kiểm sát nhân dân, Bộ luật Tố tụng hình sự năm 1988 quy định có tính chất “mở”, cho phép Cơ quan điều tra trong Viện kiểm sát nhân dân có thể lựa chọn vụ việc để điều tra, nhằm phục vụ thực hiện chức năng của ngành. Tại khoản 3 Điều 92 của Bộ luật Tố tụng hình sự năm 1988 và Điều 18 của Pháp lệnh Tổ chức điều tra hình sự năm 1989 quy định:
Cơ quan điều tra của Viện kiểm sát nhân dân điều tra trong những trƣờng hợp sau đây, khi Viện trƣởng xét thấy cần thiết: a) Khi phát hiện việc điều tra có vi phạm pháp luật nghiêm trọng; b) Khi tiến hành kiểm sát việc tuân theo pháp luật, phát hiện những vụ phạm tội rõ ràng, không cần thiết phải chuyển cho cơ quan điều tra khác; c) Khi phát hiện tội phạm trong hoạt động tƣ pháp;
Viện trƣởng Viện kiểm sát nhân dân tối cao có thể giao cho Cơ quan điều tra của Viện kiểm sát nhân dân điều tra trong những trƣờng hợp khác [21], [30].
Trong giai đoạn này, hệ thống Cơ quan điều tra của Viện kiểm sát nhân dân đã có nhiều nỗ lực thực hiện nhiệm vụ đƣợc giao và đạt đƣợc những kết quả nhất định trong các năm từ 1989 đến năm 2002, đã tiếp nhận và giải quyết 5.385 tố giác, tin báo về tội phạm, trong đó có 3.197 tố giác, tin báo tội phạm về các tội xâm phạm hoạt động tƣ pháp, tội phạm phát sinh trong hoạt động tố tụng của các cơ quan tƣ pháp; đã khởi tố điều tra đƣợc 585 vụ/1.175 bị can, trong đó có 177 vụ/297 bị can thuộc các tội xâm phạm hoạt động tƣ pháp, 129 vụ/313 bị can thuộc các tội phạm chức vụ, 42 vụ về các tội xâm phạm quyền tự do, dân chủ của công dân; số còn lại là các loại tội phạm khác [41], [16].
Với số lƣợng án đƣợc khởi tố, điều tra không nhiều nhƣng qua hoạt động điều tra của mình, Cơ quan điều tra Viện kiểm sát nhân dân tối cao đã góp phần làm trong sạch đội ngũ cán bộ tƣ pháp, hạn chế tình trạng bỏ lọt tội
phạm, làm oan ngƣời vô tội...; đồng thời, có tác dụng rất lớn trong việc “cảnh tình” các cơ quan, đơn vị tƣ pháp không đƣợc làm trái pháp luật; đảm bảo cho pháp luật đƣợc chấp hành nghiêm minh, thống nhất, góp phần bảo đảm quyền tự do, dân chủ của công dân.
Đến năm 2000, theo tinh thần tại Thông báo số 136/TB-TW ngày 25/1/1996 của Bộ Chính trị đánh giá và định hƣớng cải cách tổ chức và hoạt động của cơ quan tƣ pháp, Chỉ thị số 01/2000/CT ngày 10/01/2000 của Viện trƣởng Viện kiểm sát nhân dân tối cao về công tác điều tra năm 2000 đã khẳng định:
Thực hiện đổi mới Cơ quan điều tra của Viện kiểm sát nhân dân theo hƣớng tăng cƣờng tổ chức và hoạt động của Cục điều tra thuộc Viện kiếm sát nhân dân tối cao, chỉ để lại Phòng điều tra Viện kiểm sát cấp tỉnh ở những nơi xét thấy thật cần thiết. Cơ quan điều tra của Viện kiểm sát nhân dân chỉ tập trung vào việc điều tra tội phạm xâm phạm hoạt động tƣ pháp mà ngƣời phạm tội là cán bộ của cơ quan tƣ pháp [35].
Thực hiện Chỉ thị trên, Ban cán sự Đảng Viện kiểm sát nhân dân tối cao đã quyết định: Đối với các Phòng điều tra Viện kiểm sát nhân dân cấp tỉnh chỉ để lại một số nơi cần thiết, đó là những tỉnh, thành phố tội phạm hình sự xảy ra nhiều, khởi tố vụ án nhiều, bắt tạm giam truy tố nhiều thì dễ xảy ra tội phạm tƣ pháp; nơi đó cần thiết có Phòng Điều tra. Vì thế, thời gian này các Phòng điều tra Viện kiểm sát nhân dân chỉ còn tồn tại ở 10 tỉnh, thành phố (không kể Phòng điều tra Viện kiểm sát quân sự Trung ƣơng và 8 Ban Điều tra cấp thứ hai).
Giai đoạn từ năm 2003 đến nay, thực hiện quy định của Bộ luật tố tụng hình sự năm 2003, Luật tổ chức Viện kiểm sát nhân dân năm 2002, Cơ quan điều tra của Viện kiểm sát nhân dân đƣợc tổ chức duy nhất ở Viện kiểm sát nhân dân tối cao và Viện kiểm sát quân sự trung ƣơng.