Công tác thanh tra tại chỗ của ngân hàng nhà nước được thực hiện bởi năm phòng thanh tra tại chỗ, các tổ chức tín dụng được phân chia thành năm nhóm theo hình thức sở hữu và đựơc phân công cho mỗi phòng thực hiện chức năng thanh tra tại chỗ. Nói chung các phòng thanh tra tại chỗ tại thanh tra NHNN thực hiện việc thanh tra trực tiếp đối với hội sở chính của các TCTD, TCTD nước ngoài và liên doanh. Thanh tra chi nhánh ngân hàng nhà nước thực hiện việc thanh tra tại chỗ với các tổ chức tín dụng và các TCTD trên địa bàn.
Về nguyên tắc giám sát từ xa cũng như thanh tra tại chỗ cần được thực hiện với các TCTD trên cơ sở tổng hợp, nghĩa là chỉ cần giám sát đối với hội sở chính của TCTD mà không nhất thiết phải giám sát với các chi nhánh của TCTD, bởi các chi nhánh của TCTD không hạch toán độc lập, mọi chỉ tiêu cầc giám sát chỉ mang đầy đủ ý nghĩa khi chúng được tổng hợp tại hội sở chính. Vì vậy việc giám sát từ xa với các chi nhánh của TCTD tại các tỉnh thành phố không đem lại hiệu quả còn gây tốn kém. Và việc thanh tra tại chỗ với chi nhánh các TCTD cũng không đem lại bức tranh toàn cảnh của TCTD, việc đánh giá một chi nhánh trong khi TCTD có rất nhiều chi nhánh không đem lại nhiều ý nghĩa, tuy nhiên đây là vấn đề mang tính đặc thù của Việt Nam, nhất là đối với các TCTD nhà nước, đòi hỏi phải có sự nghiên cứu kỹ lưỡng để đưa ra phương án cải cách.
* Chưa có sự phối hợp chặt chẽ giữa giám sát từ xa và thanh tra tại chỗ
Về nguyên tắc, cần có sự phối hợp chặt chẽ giữa giám sát từ xa và thanh tra tại chỗ, nhưng sự phối hơp này tại thanh tra ngân hàng chưa được như mong muốn, bởi kết quả giám sát từ xa không cập nhật, không phục vụ đắc lực cho công tác thanh tra tại các phòng thanh tra tại chỗ, ngược lại kết quả thanh tra tại chỗ cũng không được thông báo cho phòng giám sát từ xa.