Các NHTM đều xác định điểm mấu chốt trong quản trị tín dụng hiệu quả là xây dựng một cơ cấu tổ chức tín dụng có khả năng tuân thủ theo chính sách và quy trình tín dụng của đơn vị mình, duy trì một danh mục tín dụng chất lượng giảm thiểu rủi ro, tối ưu hóa các cấp bậc cán bộ và sử dụng chi phí nhân lực một cách hiệu quả nhất. Bộ máy quản trị tín dụng hợp lý cần đáp ứng được yêu cầu: (i) Cơ cấu lãnh đạo phù hợp nhằm đảm bảo tổ chức, điều hành công việc hiệu quả; (ii) xác định rõ trách nhiệm của các bộ phận hoặc cá nhân, đặc biệt là trách nhiệm về kết quả công việc; (iii) hoạt động theo định hướng khách hàng; quản trị thông tin chặt chẽ và đầy đủ. Tín dụng là hoạt động có độ rủi ro cao vì vậy cơ cấu tổ chức hoạt động tín dụng phải bảo đảm tính thống nhất trong mối quan hệ ràng buộc, kiểm soát lẫn nhau, thông tin được tập trung đầy đủ, chính xác và kịp thời.
Cơ cấu tổ chức bộ máy tín dụng của các NHTM thường được phân làm 3 cấp: Hội sở chính, chi nhánh cấp I và chi nhánh cấp II. Trong mỗi cấp thường có 4 nhóm tham gia vào quy trình tín dụng là Hội đồng tín dụng, ban điều hành (tổng giám đốc, giám đốc chi nhánh), các phòng nghiệp vụ và bộ phận kiểm tra giám sát tín dụng. Với bộ máy quản trị tín dụng được phân cấp cụ thể sẽ phát huy tốt vai trò và nhiệm vụ của
từng cấp, đảm bảo sự phân tách độc lập giữa các khâu thẩm định và quyết định cấp tín dụng, quy định về trách nhiệm của từng cấp. Bộ máy quản trị tín dụng được tổ chức tốt sẽ đáp ứng được phần lớn yêu cầu về quản trị RRTD.
Quy chế về hội đồng tín dụng được ban hành chỉ nhằm hỗ trợ, giúp việc cho người có thẩm quyền ra quyết định về tín dụng. Thực tế, các thành viên của hội đồng tín dụng gần như không phải là chuyên gia trong các lĩnh vực, thời gian đọc và nghiên cứu tài liệu vẫn chỉ là trên tài liệu do cán bộ tín dụng cung cấp. Vì vậy, phần lớn ở các chi nhánh, chủ yếu dựa trên thẩm định của các cơ quan chức năng thường là chủ quản của doanh nghiệp dẫn đến việc họ cùng đồng thuận giữa các bên để vay được vốn, như vậy sẽ có những rủi ro chưa được chỉ ra, thậm chí còn bị che đậy ngay trong khâu thẩm định.