Theo quy định của Phỏp lệnh Tổ chức điều tra hỡnh sự năm 1989, trong quõn đội cú 194 Cơ quan điều tra hỡnh sự cỏc cấp bao gồm: 01 Cơ quan điều tra hỡnh sự Bộ Quốc phũng (Cục Điều tra hỡnh sự); 30 Cơ quan điều tra hỡnh sự (Phũng điều tra hỡnh sự) Bộ Tổng Tham mưu, cỏc tổng cục, quõn khu, qũn đồn, qũn chủng, Bộ đội Biờn phũng, binh chủng, binh đoàn; 163 Cơ quan điều tra hỡnh sự (Ban điều tra hỡnh sự) ở cỏc Bộ chỉ huy quõn sự tỉnh, thành phố trực thuộc trung ương, cỏc cục nghiệp vụ thuộc cỏc tổng cục, cỏc sư đoàn, học viện, nhà trường và cấp tương đương.
Triển khai Phỏp lệnh Tổ chức điều tra hỡnh sự năm 2004, hệ thống tổ chức Cơ quan điều tra hỡnh sự thực hiện thu gọn đầu mối từ 194 cơ quan xuống cũn 99 cơ quan. Cụ thể, giải thể 163 Cơ quan điều tra hỡnh sự (Ban điều tra hỡnh sự) ở cỏc Bộ chỉ huy quõn sự tỉnh, thành phố trực thuộc trung ương, cỏc cục nghiệp vụ thuộc cỏc tổng cục, cỏc sư đoàn, học viện, nhà
trường và cấp tương đương. Để thành lập mới 68 Cơ quan điều tra hỡnh sự khu vực (trực thuộc Cơ quan điều tra hỡnh sự cấp quõn khu và tương đương); kiện toàn lại Cơ quan điều tra hỡnh sự Bộ Quốc phũng và 30 Cơ quan điều tra hỡnh sự cấp quõn khu và tương đương: Bộ Tổng Tham mưu, cỏc tổng cục, quõn khu, qũn đồn, qũn chủng, Bộ đội Biờn phũng, binh chủng, binh đoàn và cỏc Tổ chức sự nghiệp thuộc Bộ Quốc phũng.
Sau đú, cơ cấu tổ chức của Bộ Quốc phũng cú sự thay đổi: giải tỏn Quõn khu Thủ đụ để thành lập Bộ Tư lệnh Thủ đụ Hà Nội; Binh đoàn 11 tỏch khỏi Tổng cục Hậu cần trở thành đơn vị trực thuộc Bộ Quốc phũng. Theo đú, Cơ quan điều tra hỡnh sự Quõn khu Thủ đụ và 02 Cơ quan điều tra hỡnh sự khu vực trực thuộc bị giải tỏn; giải thể Cơ quan điều tra hỡnh sự khu vực 2 Tổng cục Hậu cần để thành lập mới Ngành điều tra hỡnh sự Binh đoàn 11, gồm Cơ quan điều tra hỡnh sự Binh đoàn 11 và Cơ quan đều tra hỡnh sự khu vực trực thuộc. Như vậy, hiện nay hệ thống tổ chức Cơ quan điều tra hỡnh sự gồm cú 97 cơ quan cỏc cấp (mụ hỡnh hệ thống tổ chức - xem Phụ lục 2).
Về biờn chế tổ chức, ngày 15/12/2004, Tổng Tham mưu trưởng qũn đội đó ký Quyết định số 1501/QĐ- TM "Về việc kiện toàn tổ chức biờn chế
Cơ quan điều tra hỡnh sự quõn đội". Theo quyết định này, số lượng cỏn bộ
điều tra theo biờn chế là 667 đồng chớ (xem Phụ lục 3). Thực hiện quyết định trờn, số lượng cỏn bộ điều tra ở Cơ quan điều tra hỡnh sự cấp quõn khu và tương đương khụng đủ để thành lập ban điều tra; tương tự như vậy cỏc Cơ quan điều tra hỡnh sự khu vực khụng cú bộ phận điều tra riờng biệt và bộ phận giỳp việc. Hiện nay, số lượng cỏn bộ điều tra mới cú 568 đồng chớ, thiếu 99 đồng chớ so với biờn chế:
- Về chất lượng: Điều tra viờn cỏc cấp là 540 đồng chớ chiếm 95%; Trợ lý điều tra và cỏn bộ khỏc 28 đồng chớ chiếm 5%. Trong đú, Thủ trưởng, Phú Thủ trưởng Cơ quan điều tra hỡnh sự cỏc cấp: 171 đồng chớ; Điều tra viờn cao cấp: 32 đồng chớ; Điều tra viờn trung cấp: 228 đồng chớ; Điều tra viờn sơ cấp: 109 đồng chớ.
- Về trỡnh độ học vấn: Sau đại học: 32 đồng chớ chiếm 5,6%; Đại học: 507 đồng chớ chiếm 89,30%; Trung cấp: 29 đồng chớ chiếm 5,1%.