Để tiến hành kinh doanh có hiệu quả thì ngân hàng phải có một lượng vốn lớn huy động từ các nguồn trong nước và nước ngoài. Vốn trong nước phần lớn nằm trong các hộ gia đình dưới dạng tiết kiệm dự phòng, còn vốn của các tổ chức kinh tế xã hội được sử dụng theo mùa vụ, theo chu kỳ kinh doanh của mỗi doanh nghiệp, do đó lượng vốn nhàn rỗi trong khu vực này cũng rất lớn. Nhiệm vụ to lớn của mỗi ngân hàng là phải tập trung và thu hút các nguồn vốn lớn này để đầu tư cho các hoạt động sản xuất kinh doanh, các công trình kinh tế xã hội. Để đạt được điều đó thì ngân hàng phải có công tác huy động vốn phù hợp, có hiệu quả. Hiệu quả của công tác huy động vốn trong ngân hàng phải được đánh giá qua các khía cạnh sau:
Vốn huy động phải xuất phát từ nhu cầu kinh doanh của ngân hàng, vốn huy động của ngân hàng phải có sự tăng trưởng, ổn định về số lượng có thể thoả mãn các nhu cầu tín dụng, thanh toán cũng như các hoạt dộng kinh doanh khác ngày càng tăng của ngân hàng. Tuy nhiên, vốn huy động phải được ổn định về mặt thời gian, thường xuyên có một dòng tiền lớn có khả năng bị rút ra thì lượng vốn dành cho vay, cho đầu tư sẽ không lớn, như vậy hiệu quả sử dụng không cao và ngân hàng phải thường xuyên đối đầu với vấn đề thanh khoản. Nhưng nếu ngân hàng huy động được nguồn vốn ổn định thì ngân hàng sẽ yên tâm sử dụng phần lớn vốn đó vào các hoạt động có thu nhập cao. Song nói như vậy không có nghĩa là nếu ngân hàng thấy có nguồn vốn ổn định thì sẽ huy động hết, hay ngược lại không đáp ứng đủ yêu cầu ấy thì ngân hàng không huy động, mà việc huy động
vốn của ngân hàng phải xuất phát từ nhu cầu thực tế của ngân hàng về vốn. Nếu huy động ít thì ngân hàng sẽ không đáp ứng được nhu cầu của khách hàng, không đa dạng hoá được các hoạt động kinh doanh, không mở rộng được cạnh tranh và sẽ bị mất hết khách hàng. Còn nếu huy động nhiều mà không sử dụng hết thì vốn sẽ bị “đóng băng” khiến lợi nhuận sẽ bị sụt giảm, do vẫn phải trả lãi và các chi phí kèm theo như chi phí bảo quản, kế toán, kho quỹ... mà không có khoản nào bù đắp lãi.
Nói tóm lại, huy động vốn có hiệu quả là huy động vốn ổn định, vừa đủ, đáp ứng nhu cầu kinh doanh của ngân hàng. Nhưng làm thế nào để biết nguồn vốn đó ổn định, vừa đủ và đáp ứng được nhu cầu kinh doanh thì phải dựa vào các chỉ tiêu cụ thể khi đánh giá.