Năm 1988, Ngân Hàng Phát Triển Nông Nghiệp Việt Nam được thành lập theo Nghị định số 53/HĐBT ngày 26/03/1988 của Hội đồng Bộ trưởng ( nay là Chính phủ) về việc thành lập các ngân hàng chuyên doanh, trong đó có Ngân Hàng Phát Triển Nông Nghiệp Việt Nam hoạt động trong lĩnh vực nông nghiệp, nông thôn.
Ngân Hàng Phát triển Nông Nghiệp hình thành trên cơ sở tiếp nhận từ Ngân hàng Nhà Nước: tất cả các chi nhánh Ngân hàng Nhà nước huyện, Phòng Tín dụng Nông Nghiệp, quỹ tiết kiệm tại các chi nhánh Ngân hàng Nhà Nước tỉnh, thành phố. Ngân hàng Phát Triển Nông Nghiệp Trung Ương được hình thành trên cơ sở tiếp nhận Vụ Tín Dụng Nông Nghiệp Ngân Hàng Nhà Nước và một số cán bộ của Vụ Tín Dụng Thương Nghiệp, Ngân hàng Đầu tư và Xây dựng, Vụ kế toán và một số đơn vị.
Tính đến năm 2004, sau 4 năm triển khai thực hiện Đề án tái cơ cấu giai đoạn 2001- 2010, Ngân hàng Nông nghiệp đã đạt được những kết quả đáng khích lệ. Tình hình tài chính đã được lành mạnh hơn qua việc cơ cấu lại nợ và tăng vốn điều lệ, xử lý trên 90% nợ tồn đọng. Mô hình tổ chức từng bước được hoàn thiện nhằm tăng cường năng lực quản trị điều hành. Bộ máy lãnh đạo từ trung ương đến chi nhánh được củng cố, hoàn thiện, quyền tự chủ trong kinh doanh được mở rộng hơn.
Trên nền tảng công nghệ thông tin hiện đại và nhận thức rõ vai trò của các sản phẩm dịch vụ ngoài tín dụng truyền thống, năm 2009 NHNo & PTNT chú trọng giới thiệu và phát triển các sản phẩm, dịch vụ ngân hàng tiện ích tiên tiến, điển hình là các dịch vụ Mobile Banking như: SMS Banking, VnTopup, ATransfer, Apaybill, VnMart, kết nối thanh toán với Kho bạc, Hải quan trong việc phối hợp thu ngân sách; phát hành được trên 4 triệu thẻ các loại. 2009 cũng là năm NHNo & PTNT ưu tiên và chú trọng công
tác đào tạo, bồi dưỡng đội ngũ cán bộ đáp ứng yêu cầu của cạnh tranh và hội nhập, triển khai thành công mô hình đào tạo trực tuyến.
Ngân hàng Nông nghiệp và phát triển nông thôn chi nhánh Hà Tây là thành viên trực thuộc của Ngân hàng Nông nghiệp và Phát triển Nông thôn Việt Nam được thành lập từ tháng 10/1991, hoạt động theo luật các tổ chức tín dụng và điều lệ của NHNo &PTNT Việt Nam có trụ sở chi nhánh chính tại số 34 đường Tô Hiệu – Quận Hà Đông – Thành phố Hà Nội.
Cho đến nay ngân hàng hoạt động với mô hình 17 ngân hàng huyện, thị xã, 47 phòng giao dịch và bàn tiết kiệm.