Khoản 1 Điều 171 Bộ luật tố tụng hình sự quy định Tòa án có thẩm quyền xét xử vụ án hình sự là Tòa án nơi tội phạm được thực hiện. Trong trường hợp tội phạm được thực hiện tại nhiều địa điểm khác nhau hoặc không xác định được nơi thực hiện tội phạm thì Toà án có thẩm quyền xét xử là Toà án nơi kết thúc việc điều tra. Trong trường hợp bị cáo phạm tội ở nước ngoài mà đưa về xét xử tại Việt Nam thì Tòa án nhân dân cấp tỉnh nơi cư trú cuối cùng của bị cáo ở trong nước xét xử. Nếu không xác định được nơi cư trú cuối cùng ở trong nước thì tùy từng trường hợp Chánh án Tòa án nhân dân tối cao ra quyết định giao cho Tòa án nhân dân thành phố Hà Nội hoặc Tòa án nhân dân thành phố Hồ Chí Minh xét xử. Bị cáo phạm tội ở nước ngoài, nếu thuộc thẩm quyền xét xử của Tòa án quân sự thì do Tòa án quân sự cấp quân khu trở lên xét xử theo quyết định của Chánh án Tòa án quân sự trung ương.
Căn cứ vào qui định trên về thẩm quyền của tòa án, thì Điều 15, PLTCĐTHS qui định: CQĐTHS khu vực điều tra các vụ án hình sự thuộc thẩm quyền xét xử của Toà án Quân sự khu vực. CQĐTHS quân khu và tương đương điều tra các vụ án hình sự thuộc thẩm quyền xét xử của Toà án Quân sự quân khu và tương đương hoặc các tội phạm thuộc thẩm quyền điều tra của CQĐTHS khu vực nhưng xét thấy cần trực tiếp điều tra.
Ngoài những căn cứ trên đây, thẩm quyền điều tra của CQĐTHS Quân đội còn phụ thuộc vào các quyết định của Bộ trưởng Bộ Quốc phòng. CQĐTHS trong Quân đội điều tra theo thẩm quyền quản lý, không điều tra theo thẩm quyền lãnh thổ. Qui định này có nghĩa là các CQĐTHS trong
Quân đội điều tra các vụ án hình sự do người của đơn vị mình gây ra hoặc người, tài sản của đơn vị mình bị thiệt hại không phụ thuộc vào việc vụ án đó xảy ra ở đâu.
Ngoài ra, tại các Điều 33, Điều 34, Điều 35, BLTTHS quy định cụ thể và đầy đủ nhiệm vụ, quyền hạn và trách nhiệm của Thủ trưởng, Phó thủ trưởng CQĐT và Điều tra viên nói chung, trong Quân đội nói riêng, đây là một trong những cơ sở pháp lý quan trọng giúp Thủ trưởng, Phó thủ trưởng CQĐT và Điều tra viên trong Quân đội, thực hiện đúng chức năng nhiệm vụ của mình, trong hoạt động điều tra vụ án hình sự.