Thực hiện Nghị định số 78/2002/NĐ – CP của Chính phủ và Quyết định số 131/2002/NĐ – TTg của Thủ tướng Chính phủ, Ngân hàng chính sách xã hội được thành lập nhằm tách tín dụng chính sách ra khỏi tín dụng thương mại trên cơ sở tổ chức lại Ngân hàng phục vụ người nghèo. Đây là sự nỗ lực rất lớn của Chính phủ Việt Nam trong việc thực hiện mục tiêu quốc gia về xóa đói giảm nghèo. Đến nay Ngân hàng chính sách xã hội đã được tổ chức thành một hệ thống từ Trung ương đến địa phương cấp xã. Toàn quốc hiện có 65 chi nhánh cấp tỉnh và sở giao dịch,
603 phòng giao dịch cấp huyện, 8.749 điểm giao dịch cấp xã, thành lập và quản lý hơn 190 nghìn tổ tiết kiệm và tổ vay vốn ở khắp các thôn bản trong phạm vi cả nước. Với mạng lưới rộng khắp Ngân hàng chính sách xã hội đã thực hiện rất tốt nhiệm vụ của mình trong công cuộc xóa đói giảm nghèo của đất nước. Những kết quả hoạt động về xóa đói giảm nghèo của Nhà nước trong những năm qua đã được cộng đồng Quốc tế đánh giá cao với mục tiêu giảm tỷ lệ hộ nghèo xuống còn 10% vào những năm tiếp theo đòi hỏi Ngân hàng chính sách phải phối hợp với các cấp các ngành từng bước xã hội hóa hoạt động Ngân hàng chính sách xã hội góp phần thực hiện thành công chương trình mục tiêu quốc gia về xóa đói giảm nghèo, tạo công ăn việc làm cho người dân.
Vì vậy, việc tách bạch hoạt động tín dụng chính sách để thành lập Ngân hàng chính sách xã hội hoạt động vì mục đích phi lợi nhuận là yêu cầu tất yếu nhằm huy động sức mạnh của toàn xã hội và từng bước tập trung nguồn vốn có nguồn gốc từ Ngân sách Nhà nước, không để phân tán nguồn vốn, kém hiệu quả nhằm phục vụ tốt hơn cho người nghèo và các đối tượng chính sách khác.
Ngân hàng chính sách xã hội ra đời và đi vào hoạt động đã thể hiện là một loại hình Ngân hàng đặc biệt cung cấp những khoản ưu đãi cho người nghèo và các đối tượng chính sách khác. Hoạt động của Ngân hàng chính sách xã hội theo chương trình chỉ định vì mục tiêu phát triển xã hội từng thời kỳ, nguồn vốn được Ngân sách Nhà nước cấp trực tiếp hay cấp bù chênh lệch lãi suất huy động. Hoạt động của Ngân hàng chính sách xã hội là sự kết hợp trách nhiệm của cả cộng đồng, của các cấp các ngành từ Trung ương đến địa phương và toàn xã hội.