Ngân hàng Nông nghiệp và Phát triển Nông thôn Việt Nam, tiền thân là Ngân hàng Phát triển Nông nghiệp Việt Nam được thành lập ngày 26/03/1988 theo Nghị định số 53/HĐBT của Hội đồng Bộ trưởng (nay là Chính phủ) về việc thành lập các ngân hàng chuyên doanh, với hoạt động trong lĩnh vực nông nghiệp, nông thôn. Ngân hàng Phát triển Nông nghiệp Việt Nam hình thành trên cơ sở tiếp nhận từ NHNN: tất cả các Chi nhánh NHNN huyện, Phòng Tín dụng Nông nghiệp, Quỹ tiết kiệm tại các Chi nhánh NHNN tỉnh, thành phố.
Ngày 14/11/1990, trước xu hướng phát triển mô hình ngân hàng đa năng, Chủ tịch Hội đồng Bộ trưởng (nay là Thủ tướng Chính phủ) ký Quyết định số 400/CT thành lập Ngân hàng Nông nghiệp Việt Nam thay thế Ngân hàng Phát triển Nông nghiệp Việt Nam. Ngân hàng Nông nghiệp Việt nam là NHTM đa năng, hoạt động chủ yếu trên lĩnh vực nông nghiệp, nông thôn, là một pháp nhân, hạch toán kinh tế độc lập, tự chủ, tự chịu trách nhiệm về hoạt động của mình trước pháp luật.
Trong thời gian này, bên cạnh nhiệm vụ chính là đầu tư vào thị trường nông nghiệp và phát triển nông thôn thông qua hoạt động cho vay thông thường, Ngân hàng Nông nghiệp Việt Nam còn quản lý Quỹ cho vay ưu đãi hộ nghèo, sau đổi tên thành Ngân hàng Phục vụ Người nghèo. Đây thực chất là bộ phận tác nghiệp của Ngân hàng Nông nghiệp Việt Nam, tồn tại và phát triển mạnh vì mục tiêu xóa đói giảm nghèo, không vì mục đích lợi nhuận, thực hiện bảo toàn vốn ban đầu, phát triển vốn, bù đắp chi phí. Ngày 04/10/2002, Thủ tướng Chính phủ đã ban hành Quyết định số 131/2002/QĐ-TTg thành lập Ngân hàng Chính sách Xã hội trên cơ sở Ngân hàng Phục vụ Người nghèo. Từ 01/01/2003, Ngân hàng Phục vụ Người nghèo đã chuyển thành Ngân hàng Chính sách Xã hội, tách khỏi Ngân hàng Nông nghiệp Việt Nam.
Ngày 15/11/1996, được ủy quyền bởi Thủ tướng Chính phủ, Thống đốc NHNN Việt Nam ký Quyết định số 280/QĐ-NHNN đổi tên Ngân hàng Nông nghiệp Việt Nam thành Ngân hàng Nông nghiệp và Phát triển Nông thôn Việt Nam.
Ngân hàng Nông nghiệp và Phát triển Nông thôn Việt Nam (Agribank) có trụ sở đặt tại số 2 Láng Hạ, Ba Đình, Hà Nội, là một NHTM quốc doanh lớn nhất Việt Nam, là doanh nghiệp Nhà nước hạng đặc biệt với thời hạn hoạt động là 99 năm, hoạt động theo mô hình Tổng công ty 90, trên cơ sở Luật các TCTD và chịu sự quản lý trực tiếp của NHNN Việt Nam. Với tên gọi mới, ngoài chức năng của một NHTM, Agribank được xác định thêm nhiệm vụ đầu tư phát triển đối với khu vực nông thôn thông qua việc mở rộng đầu tư vốn trung, dài hạn để xây dựng cơ sở vật chất kỹ thuật cho sản xuất nông, lâm nghiệp, thủy hải sản góp phần thực hiện thành công sự nghiệp công nghiệp hóa - hiện đại hóa nông nghiệp nông thôn.
Ngày 31/01/2011, thực hiện Quyết định số 214/QĐ-NHNN của Thống đốc NHNN Việt Nam, Agribank chuyển đổi hoạt động sang mô hình Công ty Trách nhiệm hữu hạn Một thành viên do Nhà nước làm chủ sở hữu 100% vốn điều lệ.
Gần 30 năm xây dựng và phát triển, Agribank đã được Đảng, Nhà nước, Chính phủ, Ngành ngân hàng trao tặng nhiều phần thưởng cao quý. Agribank ngày càng khẳng định vai trò chủ lực trên thị trường tài chính trong nước; đóng góp tích cực cho sự nghiệp phát triển kinh tế, tăng cường mối đoàn kết công - nông, củng cố hệ thống chính trị; có ý thức và trách nhiệm cao trong việc chống lạm phát, thực thi chính sách tiền tệ quốc gia.