Năm 1997, Luật NHNN và Luật các TCTD ra đời, đánh dấu một bước tiến quan trọng về hoạt động ngân hàng. Luật này một lần nữa khẳng định sự đúng đắn của mô hình ngân hàng hai cấp, xác định rạch ròi hơn chức năng nhiệm vụ của từng loại hình ngân hàng, đồng thời mở ra khả năng hoạt động to lớn cho các TCTD Việt Nam tiến tới hòa nhập kinh tế khu vực và kinh tế thế giới.
Từ khi có Luật các tổ chức tín dụng đến nay, hệ thống NHTM Việt Nam tuy có những thăng trầm, nhưng thực sự đã có bước phát triển vượt bậc, góp phần quan trọng trong việc kiềm chế lạm phát, đáp ứng vốn cho nhu cầu phát triển kinh tế - xã hội, thực hiện thắng lợi công cuộc đổi mới do Đảng và Nhà nước phát động.
Các NHTM quốc doanh là lực lượng chủ lực với vai trò chi phối toàn bộ hoạt động của hệ thống NHTM Việt Nam. Các NHTM vừa chịu sự điều chỉnh bởi Luật các TCTD, vừa chịu sự điều chỉnh của Luật doanh nghiệp, Luật doanh nghiệp nhà nước. Vì vậy, mô hình tổ chức có khác các loại hình tổ chức tín dụng khác, một số chức danh chủ chốt của ngân hàng như Hội đồng quản trị, Ban điều hành, Ban kiểm soát, Kế toán trưởng do Thủ tướng chính phủ hoặc Thống đốc NHNN Việt Nam bổ nhiệm, miễn nhiệm. Yêu cầu đổi mới toàn diện được đặt ra tiên quyết đối với các NHTM Nhà nước để thích nghi với cơ chế mới và đáp ứng yêu cầu hội nhập. Hoạt động kiểm tra, kiểm toán nội bộ trong các NHTM quốc doanh lại càng mới mẻ hơn vì chưa có tiền lệ trước đây. Trong đó, Ngân hàng Nông nghiệp và phát triển nông thôn áp dụng sớm nhất hoạt động kiểm soát nội bộ (từ Quyết định số 176/QĐ/HĐQT-
02 ngày 14/12/1998 về quy chế tổ chức và hoạt động của hệ thống kiểm tra, kiểm toán nội bộ) với tổ chức chân rết đến tận chi nhánh ngân hàng huyện. Tuy nhiên, thời kỳ đầu, kiểm tra, KTNB của Ngân hàng Nông nghiệp và phát triển nông thôn chủ yếu vẫn là kiểm soát các chứng từ kế toán phát sinh trong ngày giao dịch mà chưa phải là sự độc lập của kiểm soát nội bộ đúng nghĩa. Hoạt động KTKSNB của NHNT được triển khai từng bước chặt chẽ hơn (từ Quyết định số 103/QĐ-HĐQT-NHNT ngày 10/7/1998 về quy chế tổ chức hoạt động kiểm tr kiểm toán nội bộ của NHNT). Hoạt động KTKSNB của NHĐT được triển khai chậm nhất (từ Quyết định 1208/QĐ/KTNB ngày 12/6/2000 về quy chế tổ chức hoạt động của hệ thống kiểm tra, kiểm toán nội bộ) nhưng dần đi vào ổn định. Nói chung, thời kỳ đầu, hoạt động KTKSNB của các NHTM còn lúng túng, chưa rõ chức năng, nhiệm vụ, đặc biệt nhiệm vụ kiểm soát tuân thủ, kiểm soát quy trình tác nghiệp, kiểm soát hệ thống vận hành chưa được coi trọng. Chỉ tập trung kiểm soát tài chính, kiểm tra tín dụng mà chưa đề cao trách nhiệm đánh giá rủi ro trong kinh doanh; chưa đào tạo cơ bản cho kiểm toán viên; Các cơ quan quản lý Nhà nước chuyên ngành, ban lãnh đạo NHTM chưa thực sự đánh giá đúng mức tầm quan trọng của hoạt động KTKSNB; do đó, chỉ dừng lại ở chủ trương chung, còn việc triển khai kém hiệu quả [11, tr. 53-54].
Từ khi có Luật sửa đổi, bổ sung một số điều của Luật các tổ chức tín dụng (được Quốc hội thông qua ngày 15/6/2004) và trên cơ sở pháp lý quan trọng đó, NHNN đã ban hành Quyết định số 36/2006/QĐ-NHNN về “Ban hành quy chế kiểm tra, kiểm soát nội bộ của TCTD” và Quyết định số 37/2006/QĐ-NHNN về “Quy chế KTNB của TCTD”. Bằng việc ban hành riêng hai quyết định, NHNN đã phân biệt rõ thế nào là kiểm soát nội bộ, thế nào là KTNB. Đặc biệt NHNN đã rất coi trọng những nguyên tắc cơ bản là tính độc lập, tính khách quan của KTNB, tính hiệu lực hiệu quả của hệ thống
KTKSNB. Cụ thể, tại Khoản 1/Điều 7/Quyết định 37 quy định về bộ máy của kiểm toán nội bộ được tổ chức thành hệ thống thống nhất theo ngành dọc, trực thuộc và chịu sự chỉ đạo trực tiếp của Ban kiểm soát; và tại Điều 4, Điều 5 Quyết định này cũng đã đưa ra các yêu cầu cụ thể nhằm đảm bảo tính độc lập và khách quan của kiểm toán nội bộ. Phần lớn việc xây dựng các quy định trong hai quyết định này đã áp dụng thông lệ quốc tế. Căn cứ vào hai quyết định trên, các NHTM đã tổ chức lại bộ máy KTNB như Trụ sở chính thành lập Ban kiểm soát và Phòng/Ban KTNB do Ban Kiểm soát HĐQT quản lý, Ở các chi nhánh có các Phòng KTNB hoặc Phòng KTNB khu vực (NHCT; NHĐT).
Hoạt động kiểm tra, kiểm soát và KTNB mới chỉ thực sự đi vào khuôn khổ và dần ổn định kể từ khi có các quy định trên. Cho đến nay, các quy định này vẫn đang còn hiệu lực, NHNN Việt Nam chưa có văn bản thay thế các quyết định trên.