Trong các lĩnh vực phải quản lý thì quản lý hiệu quả chi phí là một trong những yếu tố ảnh hưởng lên hiệu quả hoạt động của một ngân hàng. Khi đo lường hiệu quả hoạt động của ngân hàng thì một trong những thước đo thường được sử dụng là so sánh giữa kết quả đạt được, thường là lợi nhuận hay doanh thu với chi phí bỏ ra. Bất kỳ sự gia tăng chi phí nào không dẫn đến sự gia tăng tương ứng doanh thu sẽ làm giảm hiệu quả hoạt động của ngân hàng.
Kiểm soát chi phí cũng là một vấn đề mà ngân hàng phải quan tâm để nâng cao hiệu quả hoạt động của mình. Vấn đề này đặt ra câu hỏi liệu ngân hàng nên đa dạng hóa sản phẩm kinh doanh hay chỉ tập trung vào một phân khúc thị trường phù hợp với. Nếu ngân hàng tập trung đa dạng hóa sản phẩm thì có lợi thế là tiếp cận được với nhiều loại khách hàng, từ đó huy động được nhiều nguồn vốn và đây cũng là một trong những yếu tố góp phần nâng cao hiệu quả hoạt động của ngân hàng. Tuy nhiên khi ngân hàng mở rộng danh mục sản phẩm thì chí phí tương ứng cũng phải tăng thêm như chi phí tập huấn cho nhân viên chi phí nghiên cứu và phát triển các sản phẩm, dịch vụ mới, các chương trình truyền thông, quảng bá sản phẩm… nhưng nếu trong nhóm sản phẩm mà ngân hàng đã phát triển mở rộng ra có những sản phẩm không mang lại lợi nhuận như mong muốn, tỷ suất sinh lời thấp thì hiệu quả về mặt chí phí của ngân hàng không đạt được, hay nói cách khác tỷ lệ chi phí tăng lên làm hiệu quả hoạt động giảm xuống. Tuy nhiên vấn đề ở đây là khi chi phí hoạt động gia tăng sẽ tạo ra động lực khuyến khích các ngân hàng năng động hơn trong việc nâng cao thu nhập. Nhiều dịch vụ trước đây miễn phí, hiện nay đã bị đánh phí và ngân hàng nhấn mạnh tới việc thu phí đối với khách hàng để bù đắp toàn bộ chi phí. Hầu hết các ngân hàng hiện đang nỗ lực tìm kiếm các dịch vụ mới cho phép tạo ra những nguồn thu phí mới đủ bù đắp chi phí và có lãi.