Trong xu thế hội nhập và phát triển như hiện nay, các NHTM đang phải hoạt động kinh doanh trong một môi trường cạnh tranh vô cùng khốc liệt. Bởi các NHTM sử dụng một loại nguyên liệu đặc biệt là tiền - loại nguyên liệu có tính xã hội hóa cao và tính nhạy cảm cao. Bằng chứng là chỉ một sự thay đổi nhỏ về lãi suất huy động cũng có thể có sự chuyển dịch của khách hàng từ ngân hàng này sang ngân hàng khác. Thêm vào đó lại rất khó tạo được sự khác biệt trong sản phẩm ngân hàng vì khi một ngân hàng cho ra một sản phẩm mới thì nhanh chóng các ngân hàng bạn cũng có thể tung ra thị trường một sản phẩm tương tự, thậm chí tính năng còn ưu việt hơn do khắc phục được nhược điểm. Để nâng cao hiệu quả huy động vốn, mỗi ngân hàng cần phải nhận thức rõ môi trường kinh doanh, đối thủ cạnh tranh, xác định thị trường mục tiêu, phát huy lợi thế cạnh tranh, đồng thời cũng phải không ngừng nâng cao chất lượng dịch vụ...
Bên cạnh đó, thị trường chứng khoán, thị trường bất động sản cũng là yếu tố cạnh tranh đối với hoạt động của ngân hàng nói chung và hoạt động huy động vốn nói riêng. Sự phát triển của những thị trường này đã giúp người dân ngày càng có nhiều cơ hội lựa chọn các hình thức đầu tư. Để làm cho tài sản của mình sinh lời họ không nhất thiết phải gửi tiền vào ngân hàng mà họ có thể đầu tư vào bất động sản hay chứng khoán...Thậm chí, những thị trường này còn mở ra cho họ những cơ hội có thu nhập cao hơn đầu tư vào ngân hàng.
Vì vậy cạnh tranh vừa là thách thức vừa là cơ hội thúc đẩy sự phát triển và nâng cao chất lượng hoạt động của ngân hàng.