NHCSXH đã xây dựng được hệ thống tổ chức mạng lưới hoàn chỉnh từ Hội sở chính đến các chi nhánh cấp tỉnh, thành phố và Phòng giao dịch cấp huyện, tạo điều kiện cho ngân hàng chủ động hơn trong công tác huy động vốn. Đây là điều mà NHNg trong 7 năm hoạt động đã không thể thực hiện được. Đối với ngân hàng trong thời gian tới, vốn là vấn đề quan trọng bậc nhất để thực hiện mục tiêu mở rộng cho vay. Tuy nhiên, công tác huy động vốn của ngân hàng vẫn còn một số hạn chế sau:
Thứ nhất, vốn của ngân hàng phụ thuộc rất lớn vào nguồn từ NSNN và cấp bù chênh lêch lãi suất. Theo tính toán, hai nguồn này chiếm 71,15% tổng vốn của ngân hàng. Trong đó, vốn điều lệ chiếm 14,4% tổng vốn (mức này của các NHTM khác là nhỏ hơn 4%), nhưng so với số vốn điều lệ thông báo (5.000 tỷ đồng) thì phần thực nhận mới chiếm 30,3%. Tiếp đến là vốn vay từ NHNN, chiếm 14,6% tổng vốn. Đây hiện là hai nguồn quan trọng của ngân hàng. Nguồn huy động từ
tiền gửi và tiết kiệm của dân cư theo lãi suất thị trường là nguồn chủ yếu đòi hỏi có sự cấp bù chênh lệch lãi suất. Mặt khác, khối lượng nguồn này lại phải căn cứ vào kế hoạch vốn hàng năm đã được Bộ Tài chính duyệt, vấn đề đặt ra là quy mô cấp bù không phải dựa trên nhu cầu vay vốn thức tế mà bị giới hạn bới quy mô chi NSNN hàng năm. Do vậy, với mức cấp bù đã xác định, ngân hàng không thể huy động nhiều hơn số tương ứng được cấp bù, ngay cả trong một số trường hợp ngân hàng có đủ điều kiện thực hiện huy động thêm, từ đó gây ra sự lãng phí năng lực của ngân hàng và không khai thác hết vốn tạm thời nhàn rỗi trong nền kinh tế.
Thứ hai, tính đa dạng của các nguồn vốn chưa cao. Trên thực tế, việc huy động tiền gửi vẫn chưa được ngân hàng coi trọng, vốn từ huy động tiết gửi và tiết kiệm trong dân cư chiếm 13,3% tổng vốn nhưng hầu hết là tiết kiệm của cá nhân, không có tiền gửi thanh toán. Thêm nữa, trong tổng số hơn 220.000 tổ tiết kiệm và vay vốn hiện nay của ngân hàng mới chỉ có khoảng 0,18% số tổ có huy động tiết kiệm, còn lại về thực chất chỉ là tổ vay vốn. Trong khi các ngân hàng khác đang cạnh tranh lẫn nhau để chiếm thêm những thị phần nhỏ bé trong lĩnh vực này thông qua việc ra đời của ngày càng nhiều chi nhánh ngân hàng với những sản phẩm tiết kiệm đa dạng và tiện ích thì NHCSXH vẫn nằm ngoài cuộc cạnh tranh này, thậm chí tại những thành phố lớn vẫn không tìm thấy bất kỳ băng rôn quảng cáo nào của ngân hàng về sản phẩm của mình. Do vậy, dân cư chỉ biết đến ngân hàng với hoạt động duy nhất là cho vay. Ngoài ra, theo Điều lệ của NHCSXH, ngân hàng được phép vay Bảo hiểm xã hội, Tiết kiệm Bưu điện, phát hành trái phiếu, kỳ phiếu ngân hàng nhưng các hình thức này vẫn chưa được thực hiện. Cuối cùng, quan hệ huy dộng vốn của ngân hàng với các tổ choc nước ngoài còn hạn chế. Hiện ngân hàng mới chỉ có quan hệ với hai nhà tài trợ song phương Pháp và Thuy Điển và hai tổ choc tài trợ đa phương IFAD và OPEC.
Vốn có hạn nên tại nhiều địa phương thực hiện cho vay bình quân, dàn đều về vốn và thời hạn chỉ nhằm mục tiêu là vốn được giải ngân càng nhiều càng tốt mà không quan tâm đến nhu cầu của hộ về vốn và hiệu quả sử dụng vốn. Từ đó dẫn đến hộ cần thì không đủ vốn mà hộ không cần thì vẫn phải vay dẫn đến việc sử dụng vốn vay sai mục đích. Hoặc một số nơi chỉ xét cho mỗi hộ vay một chu kỳ sản
xuất kinh doanh, trả nợ xong đến hộ khác vay nên các hộ đã được vay vốn không muốn trả nợ ngân hàng vì sau khi trả thì không biết bao giờ mới được vay tiếp.
Mặt khác, việc thiếu vốn đã đặt ra một giới hạn đối với năng lực cho vay của ngân hàng, đặc biệt là đối với tín dụng trung và dài hạn – là điều có thể đem lại sự thay đổi căn bản cần thiết nhằm nâng cao năng lực sản xuất của hộ nghèo, đặc biệt là hộ nghèo ở nông thôn do tính chất của hoạt động nông nghiệp. Đối với hộ nghèo ở thành thị, họ có thể vay một số tiền không cần quá lớn, từ 2-3 triệu và thường đầu tư vào lĩnh vực dịch vụ là lĩnh vực yêu cầu vốn ít và thời gian quay vòng vốn nhanh do thành thị có rất nhiều cơ hội đầu tư. Trong khi đó, hộ nông dân cần vốn lớn (6-8 triệu) để đầu tư chuyển đổi cơ cấu cây trồng, vật nuôi, mua sắm máy móc, áp dụng tiến bộ kỹ thuật…Tỷ trọng dư nợ cho vay trung và dài hạn của NHNg trước đây và NHCSXH hiện nay luôn trên 70% tổng dư nợ cho vay trong khi đó vốn trung hạn chỉ chiếm khoảng 25% tổng vốn của ngân hàng. Việc ngân hàng sử dụng vốn ngắn hạn để cho vay trung và dài hạn trong điều kiện khả năng huy động vốn trên thị trường nhỏ bé, rủi ro vốn vay cao, không có tài sản thế chấp và không có sự tham gia của vốn chủ sở hữu vào hoạt động sản xuất là một việc làm vô cùng mạo hiểm đến khả năng thanh toán của ngân hàng.
Theo tính toán của ngân hàng, đến năm 2006, ngân hàng thiếu hụt 24.366 tỷ đồng, mức này đến năm 2010 là 28.921 tỷ đồng. Do vậy, để huy động được khoản vốn gần 24.000 tỷ đồng trong một thời gian không dài là một việc khó.