Theo COSO, dù đặc điểm hoạt động của mỗi tổ chức có khác nhau thì luôn có 5 bộ phận cấu thành hệ thống kiểm soát nội bộ (Trường Đại học Kinh tế thành phố HCM, 2014), cụ thể: “là môi trường kiểm soát, hệ thống quản lý
và đánh giá rủi ro, hoạt động kiểm soát, hệ thống thông tin và cơ chế trao đổi thông tin, và cơ chế giám sát hoạt động kiểm soát.”
Môi trường kiểm soát là nền tảng cho toàn bộ các cấu phần của hệ thống kiểm soát nội bộ, bao gồm cơ cấu tổ chức, cơ chế phân cấp, phân quyền, các chính sách, thông lệ về nguồn nhân lực, đạo đức nghề nghiệp, năng lực, cách thức quản trị, điều hành của các cấp lãnh đạo.
Hệ thống quản lý và đánh giá rủi ro là quy trình định dạng và phân tích mọi rủi ro liên quan đến việc hoàn thành các mục tiêu của tổ chức tín dụng, cụ thể bao gồm (i) việc xác định mục tiêu, (ii) mức độ phù hợp của các mục tiêu, (iii) việc định dạng các rủi ro liên quan, (iv) đánh giá rủi ro, và (v) các biện pháp nhằm giảm thiểu rủi ro.
Hoạt động kiểm soát là các chính sách, quy trình, thông lệ được xây dựng nhằm đảm bảo thực hiện các kế hoạch, các yêu cầu do các cấp quản lý điều hành đặt ra và các quy trình giảm thiểu rủi ro liên quan.
Hệ thống thông tin và cơ chế trao đổi thông tin là hệ thống hỗ trợ toàn bộ các cấu phần của hệ thống kiểm soát nội bộ thông qua việc đảm bảo các thông tin được nắm bắt đầy đủ và kịp thời trong toàn ngân hàng.
Cơ chế giám sát hoạt động kiểm soát là quá trình đánh giá chất lượng của hệ thống kiểm soát nội bộ để đảm bảo nó được triển khai, điều chỉnh khi môi trường thay đổi, cũng hư được cải thiện khi có khiếm khuyết. Ví dụ thường xuyên rà soát và báo cáo về chất lượng, hiệu quả hoạt động của hệ thống kiểm soát nội bộ, đánh giá và theo dõi việc Ban lãnh đạo cũng như tất cả nhân viên có tuân thủ các chuẩn mực ứng xử của công ty hay không... và Tổng giám đốc là người giám sát toàn bộ quá trình.
Hội đồng quản trị và Ban kiểm soát chịu trách nhiệm cuối cùng về mức độ đầy đủ, tính hiệu lực và hiệu quả của hệ thống kiểm soát nội bộ thông qua một Bộ phận chuyên trách độc lập. Bộ phận này chính là Bộ phận kiểm toán
nội bộ của ngân hàng. Chức năng cơ bản của Bộ phận kiểm toán nội bộ là thực hiện đánh giá độc lập về mức độ đầy đủ, tính hiệu lực và hiệu quả của hệ thống kiểm soát nội bộ của ngân hàng, đồng thời đua ra những khuyến nghị nhằm hoàn thiện hệ thống kiểm soát nội bộ.
Bên cạnh đó, hệ thống kiểm soát nội bộ còn đuợc thuờng xuyên tự đánh giá. Công việc này do Tổng giám đốc của ngân hàng chịu trách nhiệm tổ chức thực hiện. Tự đánh giá hệ thống kiểm soát nội bộ có tác dụng phòng ngừa rủi ro và hỗ trợ đắc lực cho công tác quản lý rủi ro của ngân hàng.