Năm 1990, Hai pháp lệnh về Ngân hàng (pháp lệnh về NHNNVN và pháp lệnh về Ngân hàng và Hợp tác xã tín dụng) ra đời đó là một bước phát triển đột phá, hình thành hệ thống Ngân hàng hai cấp, trong đó NHNN làm nhiệm vụ quản lý Nhà nước về hoạt động tiền tệ, tín dụng, Ngân hàng; Tổ chức tín dụng làm nhiệm vụ Kinh doanh: Huy động vốn, cho vay, thực hiện các dịch vụ Ngân hàng…
Các TCTD được hình thành và đi vào hoạt động kinh doanh, đặt ra yêu cầu tất yếu cần thiết phải có một tổ chức liên kết các hoạt động của các TCTD, vừa đảm bảo TCTD hoạt động đúng hướng của Nhà nước, vừa đảm bảo lợi ích hợp pháp của từng TCTD.
Trong bối cảnh đó, Hiệp hội ngân hàng Việt Nam được thành lập và hoạt động theo Quyết định số 247/TTG ngày 14/5/1994 của Thủ tướng Chính phủ. Trải qua hơn 20 năm thành lập và hoạt động HHNH Việt Nam ngày càng thể hiện và phát huy được vai trò của mình với tư cách là Tổ chức xã hội - nghề nghiệp tự nguyện của các TCTD và các tổ chức khác có liên quan đến lĩnh vực ngân hàng hoạt động tại Việt Nam; HHNHVN đã tập hợp, động viên được các hội viên hợp tác, hỗ trợ nhau trong hoạt động kinh doanh; là đại diện bảo vệ quyền và lợi ích hợp pháp của các Tổ chức hội viên.
Đến nay, hoạt động của HHNHVN đã trải qua 5 nhiệm kỳ và đang hoạt động tại nhiệm kỳ VI, bắt đầu từ tháng 06/2016. Trong đó:
Nhiệm kỳ I, từ tháng 8/1994 đến tháng 2/1999; Nhiệm kỳ II, từ tháng 2/1999 đến tháng 6/2003; Nhiệm kỳ III, từ tháng 6/2003 đến tháng 8/2007;
Nhiệm kỳ IV, từ tháng 8/2007 đến tháng 12/2011; Nhiệm kỳ V, từ tháng 12/2011 đến tháng 6/2016;
Tính đến ngày 31/12/2017, HHNN Việt Nam có 59 TCHV bao gồm: 50 hội viên chính thức, 05 hội viên liên kết và 04 hội viên danh dự; Trong 50 hội viên chính thức có: 34 NHTM, 1 Ngân hàng liên doanh, 5 công ty tài chính, 3 định chế tài chính khác và 7 tổ chức trung gian thanh toán.
Đến 31/12/2018, số lượng TCHV của HHNH Việt Nam đã có sự thay đổi, bao gồm 64 TCHV trong đó có: 54 hội viên chính thức, 05 hội viên liên kết và 05 hội viên danh dự.
Với tư cách là một Hội nghề nghiệp, trong 24 năm qua HHNHVN đã cùng các hội viên của mình có những đóng góp quan trọng trong việc tập hợp, liên kết các NH hội viên cùng hợp tác trong hoạt động kinh doanh, đảm bảo an toàn, hiệu quả; ngăn ngừa các hiện tượng cạnh tranh không lành mạnh; liên kết hợp tác, hỗ trợ nhau cùng phát triển; hỗ trợ về mặt pháp lý và nghiệp vụ cho các NH hội viên. Thực hiện việc hỗ trợ về đào tạo, bồi dưỡng về những nghiệp vụ mới, những vấn đề phức tạp, nhậy cảm trong hoạt động kinh doanh. Trong đó nổi bật nhất là việc thực hiện vai trò cầu nối của NHNNVN trong thực thi chính sách tiền tệ của NHNN và hỗ trợ hoạt động của các TCTD.