Chi nhánh Ngân hàng Nông Nghiệp và Phát Triển Nông Thôn Hà Nội được thành lập theo quyết định số 51-QĐ/NH/QĐ ngày 27/6/1988 của Tổng Giám đốc Ngân hàng Nhà nước Việt Nam (nay là Thống đốc NHNN Việt Nam) trên cơ sở ban đầu là 28 cán bộ cùng với 21 Công ty, xí nghiệp thuộc lĩnh vực Nông, Lâm, Ngư nghiệp được điều động từ Ngân hàng Công-Nông-Thương thành phố Hà Nội và 12 chi nhánh Ngân hàng phát triển nông nghiệp huyện được đổi tên từ các Chi nhánh Ngân hàng Nhà nước đã hội tụ về trụ sở chính tại số 77 Lạc Trung, quận Hai Bà Trưng, Hà Nội.
Khi mới thành lập NHNo&PTNT Hà Nội đã gặp phải rất nhiều khó khăn về nhân lực, cơ sở vật chất, vốn. Với 1.182 lao động, 18 tỷ nguồn vốn, chủ yếu là tiền gửi Ngân sách huyện và 16 tỷ dư nợ mà hầu hết là nợ cho vay các xí nghiệp Quốc doanh, các hợp tác xã đã trở thành nợ tồn đọng. Phương tiện, kho tàng thì thiếu thốn không đáp ứng đủ yêu cầu hoạt động của NHNo&PTNT. Hơn nữa, phải hoạt động trong môi trường cạnh tranh với các Ngân hàng đã có bề dày hoạt động kinh doanh và có lợi thế về nhiều mặt.
Nhận rõ trách nhiệm của mình trong sự nghiệp xây dựng và đổi mới đất nước, mà trọng tâm là phát triển kinh tế nông nghiệp, góp phần đổi mới Nông thôn ngoại thành Hà Nội, NHNo&PTNT Hà Nội đã nhanh chóng khai thác nguồn vốn để đầu tư cho các Thành phần kinh tế mà trước hết là đầu tư cho Nông Nghiệp. Nhờ có những quyết sách táo bạo, đổi mới nhận thức kiên quyết khắc phục điểm yếu nhất là thiếu vốn, thiếu tiền mặt, nhờ vậy chỉ sau hơn hai năm hoạt động, từ năm 1990 trở đi NHNo&PTNT Hà Nội đã có đủ nguồn vốn và tiền mặt thỏa mãn cơ bản các nhu cầu tín dụng và tiền mặt cho khách hàng.
Các dịch vụ tiện ích của NHNo&PTNT Hà Nội không ngừng được mở rộng như chuyển tiền, bảo lãnh dự thầu, bảo lãnh thực hiện hợp đồng, mở LC nhập khẩu, Phonebanking, thẻ ATM, thẻ tín dụng nội địa, thẻ ghi nợ, tư vấn trong thanh toán Quốc tế, dịch vụ chuyển khoản siêu nhanh (Transfer), thu tiền
tại nhà…. từ đó tăng thu cho Ngân hàng, thu bình quân dịch vụ chiếm 12%-15% trên tổng thu.
Sau 20 năm phấn đấu, xây dựng và từng bước trưởng thành NHNo&PTNT Hà Nội đã không ngừng khẳng định sự lớn mạnh của mình trong lĩnh vực Ngân hàng nói riêng và trong lĩnh vực kinh tế nói chung. NHNo&PTNT Hà Nội đã hoàn thành tốt mọi sự uỷ thác của Nhà nước và Đảng. Và ngày càng khẳng định được vai trò của mình trong sự phát triển nông nghiệp & nông thôn, và thúc đẩy mạnh mẽ quá trình CNH – HĐH đất nước.