Ngành kinh tế trọng yếu của Nhà nước – ngành ngân hàng đã chính thức được khai sinh vào ngày 06/05/1951 khi Chủ tịch Hồ Chí Minh ký sắc lệnh số 15/SL thành lập Ngân hàng Quốc gia Việt Nam. Trong giai đoạn này, Việt Nam xây dựng ngân hàng quốc gia theo mơ hình một cấp từ trung ương đến địa phương do nhà nước trực tiếp quản lý và kiểm soát. Ngày 26/10/1961 Ngân hàng Quốc gia Việt Nam được đổi tên thành Ngân hàng Nhà nước Việt Nam. Lúc này hệ thống ngân hàng cũng xuất hiện nhu cầu tách bạch giữa chức năng quản lý tiền tệ với các hoạt động kinh doanh nghiệp vụ ngân hàng. Các ngân hàng chuyên doanh lần lượt được ra đời nhằm thực hiện nhiệm vụ cấp phát vốn cho nền kinh tế gồm Ngân hàng Kiến thiết Việt Nam năm 1957 (sau đổi tên thành Ngân hàng Đầu tư và Xây dựng Việt Nam năm 1981) và Ngân hàng Ngoại thương Việt Nam năm 1963.
Từ khi thành lập đến trước năm 1975 là thời kỳ các NHTMNN có những đóng góp quan trọng trong quản lý cấp phát vốn cho nền kinh tế, đồng thời góp phần thăng bằng thu chi, tạo thuận lợi cho việc quản lý thị trường, giữ vững giá cả và thực hiện tiết kiệm tích lũy vốn cho Nhà nước. Nhiều cơng trình lớn, có ý nghĩa đặc biệt đối với đời sống sản xuất của nhân dân miền Bắc đã được xây dựng nên từ những đồng vốn cấp phát của các NHTMNN như: các hầm lò mỏ than ở Quảng Ninh; nhà máy Xi măng Hải phòng, những tuyến đường sắt huyết mạch... Các NHTMNN còn cung ứng vốn cấp phát để kiến thiết những cơ sở cơng nghiệp, những cơng trình xây dựng cơ bản phục vụ quốc kế, dân sinh và góp phần làm thay đổi diện mạo nền kinh tế miền Bắc.
Sau khi thống nhất đất nước, cả nước bước vào thời kỳ khôi phục và phục hồi kinh tế với các hoạt động hàn gắn vết thương, cải tạo và xây dựng các cơ sở kinh tế diễn ra vô cùng mạnh mẽ. Hoạt động tín dụng thời kỳ này cũng phát triển rất nhanh chóng nhất là khu vực kinh tế quốc doanh. Các NHTMNN đã cung ứng vốn cho các cơng trình cơng nghiệp, nơng nghiệp, giao thông vận tải, cơng trình phúc lợi và đặc biệt ưu tiên vốn cho những cơng trình trọng điểm, then chốt của nền kinh tế quốc dân;
góp phần vào cơng cuộc xây dựng và phát triển nước nhà đồng thời hỗ trợ NHNN trong công cuộc quản lý tiền tệ, ngoại hối, thanh tốn để góp phần ổn định kinh tế và lưu thông tiền tệ, mở rộng hợp tác kinh tế, tranh thủ sự giúp đỡ của bạn bè quốc tế cho tái thiết đất nước. Hàng loạt cơng trình mới được mọc lên trên một nửa đất nước vừa được giải phóng: các rừng cây cao su, cà phê mới ở Tây Nguyên, Đông Nam Bộ và Quảng Trị; hồ thuỷ lợi Dầu Tiếng, khu cơng nghiệp Dầu khí Vũng Tàu, các nhà máy điện Đa Nhim, xi măng Hà Tiên,... Đây cũng là thời kỳ các NHTMNN có bước chuyển mình, từng bước trở thành các ngân hàng chuyên doanh hàng đầu trong nền kinh tế.
Đến ngày 26/03/1988 Hội đồng Bộ trưởng đã ban hành Nghị định số 53/NĐ- HĐBT với định hướng chuyển hẳn hệ thống ngân hàng thành hai cấp gồm Ngân hàng Nhà nước và các Ngân hàng chuyên doanh trực thuộc. Các Ngân hàng chuyên doanh thực hiện nhiệm vụ kinh doanh về dịch vụ ngân hàng, huy động các nguồn vốn nhàn rỗi và cho vay, cấp phát vốn khi cần thiết đối với các thành phần kinh tế. Lúc này ngoài 02 ngân hàng chuyên doanh là Ngân hàng Ngoại thương Việt Nam và Ngân hàng Đầu tư và xây dựng Việt Nam cịn có thêm 02 ngân hàng chuyên doanh được thành lập trên cơ sở chuyển tách ra từ Ngân hàng Nhà nước gồm: Ngân hàng chuyên doanh Công thương Việt Nam và Ngân hàng chuyên doanh Phát triển Nông nghiệp Việt Nam.
Pháp lệnh ngân hàng được công bố vào ngày 23/05/1990 là cơ sở pháp lý quan trọng chính thức xác lập mơ hình ngân hàng ở Việt Nam trở thành mơ hình hai cấp. Ngân hàng Nhà nước Việt Nam là Ngân hàng Trung ương với chức năng quản lý nhà nước về tiền tệ, hệ thống Ngân hàng thương mại với chức năng kinh doanh trực tiếp và thực hiện các dịch vụ ngân hàng đáp ứng nhu cầu của nền kinh tế. Ngày 14/11/1990, Chủ tịch Hội đồng Bộ trưởng (nay là Thủ tướng Chính phủ) đã ký 4 Quyết định số 400/CT, 401/CT, 402/CT, 403/CT chính thức chuyển các ngân hàng chuyên doanh sang NHTMNN hoạt động đa năng và đổi tên thành Ngân hàng Nông nghiệp Việt Nam, Ngân hàng Đầu tư và Phát triển Việt Nam, Ngân hàng Công thương Việt Nam và Ngân hàng Ngoại thương Việt Nam (đến ngày 15/11/1996, Ngân hàng Nông nghiệp
Việt Nam lại được đổi tên thành Ngân hàng Nông nghiệp và Phát triển Nông thôn Việt Nam). Đây là các ngân hàng giữ vai trò chủ đạo và chủ lực trong phát triển kinh tế Việt Nam, là các ngân hàng thương mại đa năng, hoạt động đa lĩnh vực. Vào ngày 18/09/1997, Ngân hàng Phát triển nhà đồng bằng sông Cửu Long và cũng là ngân hàng thứ 05 được thành lập dưới hình thức Ngân hàng thương mại Nhà nước với mục tiêu ban đầu là huy động vốn, cho vay hỗ trợ sắp xếp, chỉnh trang lại khu dân cư, quy hoạch và xây dựng các khu đô thị mới để cải thiện điều kiện về nhà ở cho nhân dân. So với các Ngân hàng thương mại Nhà nước khác, MHB là ngân hàng trẻ nhất, nhưng có tốc độ phát triển nhanh nhất. Ngày 12/12/1997, Quốc Hội ban hành Luật Ngân hàng nhà nước Việt Nam và Luật các tổ chức tín dụng đã tạo nên những tác động tích cực, tạo cơ sở pháp lý cao hơn cho hoạt động ngành ngân hàng đồng thời điều chỉnh hoạt động ngân hàng phù hợp với quy luật kinh tế thị trường có sự điều tiết của nhà nước. Từ đây ngành ngân hàng đã đóng góp rất nhiều cho sự nghiệp xây dựng và phát triển đất nước; trong đó các NHTMNN có vai trị đầu tàu và quan trọng nhất.
Để nâng cao năng lực cạnh tranh và tạo điều kiện để các NHTMNN phát triển nhanh, ngay từ đầu những năm 2000, Việt Nam bắt đầu thực hiện một chương trình cải cách toàn diện hệ thống ngân hàng và được thực hiện trong nhiều năm. Chính phủ đã có kế hoạch cổ phần hóa các NHTMNN nhằm đưa lĩnh vực ngân hàng - tài chính Việt Nam phát triển ngang tầm với các nước trong khu vực. Tháng 12/2007, Vietcombank là NHTMNN đầu tiên chính thức cổ phần hóa, đánh dấu bước đi đầu tiên của Chính phủ trong việc cổ phần hóa các ngân hàng thương mại nhà nước và đổi tên thành Ngân hàng TMCP Ngoại thương Việt Nam vào ngày 02/06/2008. Ngoài ra, đến nay đã có thêm 03 NHTMNN thực hiện thành cơng cổ phần hóa gồm Ngân Hàng TMCP Công Thương Việt Nam (2008), Ngân hàng Phát triển nhà đồng bằng sông Cửu Long (2011), Ngân hàng TMCP Đầu tư và Phát triển Việt Nam (2012); còn Agribank đang trong những bước cuối cùng thực hiện cổ phần hóa. Sau khi cổ phần hóa các NHTMNN đều tích cực đẩy mạnh nâng cao năng lực tài chính, mở rộng quy mơ hoạt động, từng bước
triển khai các giải pháp cải tiến các sản phẩm, dịch vụ ngân hàng; ứng dụng công nghệ hiện đại để trở thành ngân hàng có quy mơ lớn trong khu vực.
Song song với hoạt động kinh doanh, các NHTMNN còn đi đầu trong việc thực hiện hiệu quả cơng tác an sinh xã hội, có thành tích đặc biệt xuất sắc trong lao động, sáng tạo, góp phần vào sự nghiệp xây dựng Chủ nghĩa xã hội và bảo vệ Tổ quốc.
Các NHTMNN đã đi qua chặng đường xây dựng và phát triển cùng với các giai đoạn, tiến trình đổi mới, phát triển kinh tế của đất nước. Và sau những năm thực hiện đường lối đổi mới kinh tế, NHTMNN đã đạt được nhiều kết quả khả quan, ln duy trì tốc độ tăng trưởng cao, an tồn và hiệu quả. Nguồn vốn tín dụng của NHTMNN đã góp phần tăng năng lực sản xuất của nền kinh tế, năng lực sản xuất của các ngành. Đối mặt với bao thử thách, khó khăn to lớn, song cùng với bản lĩnh, sự quyết tâm đổi mới không ngừng, 05 NHTMNN ngày nay đã đạt được tầm vóc đáng tự hào; vững bước vào tương lai với những mục tiêu, kế hoạch mới nhằm trở thành những Ngân hàng hàng đầu trong khu vực.