Tháng 9 năm 1995 Ngân hàng Phục vụ người nghèo được thành lập nhằm mục đích cho hộ nghèo vay với lãi suất ưu đãi, không phải thế chấp tài sản, thủ tục vay vốn đơn giản thông qua Tổ vay vốn ở các xã phường. Hoạt động cho vay của ngân hàng
này được uỷ thác qua NHNo & PTNT Việt Nam.
Trong quá trình thực hiện, mặc dù đã mang lại một số kết quả đáng kể nhưng những tồn tại trong cơ chế tạo lập nguồn vốn và tổ chức điều hành của Ngân hàng
Phục vụ người nghèo chưa hoàn toàn tách khỏi NHNo & PTNT nên chưa chủ động đáp
ứng vốn cho hộ nghèo vay và cản trở quá trình lành mạnh hoá hoạt động của ngân hàng này. Mặc khác, tín dụng ưu đãi cho các đối tượng chính sách do nhiều cơ quan hành chính Nhà nước và ngân hàng cùng thực hiện theo các kênh khác nhau làm cho nguồn lực của Nhà nước bị phân tán, chồng chéo, cản trở thậm chí trùng lấp nhau. Vì thế Ngân hàng Chính Sách Xã hội (NHCSXH) Việt Nam được ra đời theo quyết định 131/2002/ QĐ-TTg và Nghị định 78/2002/NĐ- CP ngày 04 tháng 10 năm 2002 ra đời với mục đích tách hoạt động của Ngân hàng Phục vụ người nghèo ra khỏi hoạt động
thương mại của NHNo & PTNT, tập trung đầu mối huy động các nguồn lực để cho vay
để NHNo & PTNT thể hiện tốt vai trò ngân hàng thương mại của nó trong quá trình phát triển và hội nhập của đất nước.
NHCSXH là tổ chức tín dụng Nhà Nước, hoạt động không vì mục đích lợi nhuận, có tư cách pháp nhân, có vốn điều lệ, có bảng cân đối kế toán. NHCSXH là đơn vị thực hiện hạch toán tập trung toàn hệ thống, được Nhà Nước giao vốn và các nguồn lực khác. Đồng thời NHCSXH có trách nhiệm sử dụng nguồn vốn đúng mục đích, đúng đối tượng, và có nhiệm vụ bảo tồn, phát triển vốn, bù đắp chi phí, hạ chế rũi ro. NHCSXH không phải tham gia bảo hiểm tiền gửi, tỷ lệ dự trữ bắt buộc bằng 0%, được miễn thuế và các khoản phải nộp Ngân sách Nhà nước.