Mối quan hệ giữa điều tra và công tố thể hiện ở mối quan hệ giữa CQĐT và VKS (Viện công tố). Trong đó, mối quan hệ này tồn tại như một tất
yếu khách quan của quá trình giải quyết vụ án nhưng nội dung mối quan hệ này lại phụ thuộc vào nguyên tắc tổ chức hoạt động của các cơ quan nhà nước được xác định trong Hiến pháp và mô hình tố tụng hình sự mối quốc gia. Ở những quốc gia, Bộ máy nhà nước được tổ chức theo nguyên tắc phân quyền thì VKS (Cơ quan công tố) là một cơ quan thuộc nhánh quyền hành pháp có chức năng thực hành quyền công tố. Để thực hiện quyền công tố Cơ quan công tố có trách nhiệm điều tra, chứng minh tội phạm bằng việc trực tiếp điều tra hoặc chỉ đạo các cơ quan khác thực hiện các hoạt động điều tra. Trong trường hợp này, mặc dù không trực tiếp tiến hành điều tra những cơ quan công tố phải chịu trách nhiệm hoàn toàn đối với các quyết định và hoạt động trong việc điều tra vụ án. Cơ quan quan điều tra hoặc những cơ quan khác chỉ được tiến hành các hoạt động điều tra theo sự chỉ đạo của cơ quan công tố. Vì vậy, thông thường ở các nước không hình thành CQĐT độc lập mà chỉ có bộ phận điều tra ở cơ quan công tố và những người hoặc bộ phận được giao tiến hành một số hoạt động điều tra theo sự chỉ đạo của cơ quan công tố. Một số nước ở cơ quan cảnh sát có những bộ phận được giao tiến hành hoạt động điều tra và người được tiến hành hoạt động điều tra có chức danh cảnh sát tư pháp. Tại Trung quốc, mặc dù có thể chế chính trị tương tự như nước ta nhưng cũng không thành lập CQĐT độc lập mà hoạt động điều tra được giao cho những bộ phận ở Bộ công an, Bộ an ninh, Cảnh sát đường sắt… và đặt dưới sự chỉ đạo của VKS. Trong trường hợp này mối quan hệ giữa VKS và cơ quan được giao tiến hành hoạt động điều tra là mối quan hệ phụ thuộc, các hoạt động điều tra do các cơ quan khác tiến hành đều phụ thuộc và chịu sự chỉ đạo của cơ quan công tố. Mối quan hệ phụ thuộc này thể hiện trên các phương diện sau: (1) Cơ quan công tố có quyền hạn và chịu trách nhiệm hoàn toàn về tất cả các hoạt động điều tra; (2) Cơ quan công tố có thể trực tiếp tiến hành điều tra hoặc việc điều tra được giao cho những cơ quan khác theo qui định
của pháp luật; (3) Các cơ quan khác được giao tiến hành hoạt động điều tra phảI theo yêu cầu và chỉ đạo của cơ quan công tố; (4) Cơ quan công tố không cần phảI làm bản kết luận điều tra và không có thêm quyền ra quyết định trả hồ sơ để điều tra bổ sung; (5) Hoạt động và kết quả điều tra gắn liền với hoạt động truy tố của VKS.
Ở những nước có hệ thống CQĐT độc lập với VKS thì chức năng điều tra được giao hẳn cho CQĐT thì mối quan hệ giữa CQĐT và VKS lại có nội dung khác. Đó là mối quan hệ giữa hai cơ quan có chức năng riêng biệt trong quá trình tố tụng giải quyết vụ án hình sự, thể hiện ở hai phương diện: (1) Mối quan hệ phối hợp trong quá trình giảI quyết vụ án. Do VKS và CQĐT là những cơ quan độc lập có chức năng tố tụng khác nhau nhưng cùng hướng tới mục đích chung của tố tụng hình sự nên việc phối hợp là yêu cầu tất yếu; (2) Mối quan hệ chế ước: Quá trình tố tụng đòi hỏi bên cạnh việc phát hiện nhanh chóng, chính xác tội phạm nhưng đồng thời phải bảo đảm không làm oan người vô tội, không được vi phạm pháp luật, xâm phạm quyền con người nên giữa các cơ quan này cần phải có mối quan hệ chế ước. Quan hệ chế ước giữa VKS và CQĐT không những bảo đảm để pháp luật được thi nghiêm chỉnh trong quá trình giải quyết vụ án mà còn đảm bảo để công lý được thực thi góp phần giải quyết vụ án khách quan, công bằng.