Hệ thống NHTM cần được cơ cấu lại nhằm xây dựng những NHTM mạnh và thúc đẩy quá trình cạnh tranh. Khu vực ngân hàng hiện nay đang đứng trước một áp lực mạnh mẽ từ sự tăng trưởng chậm lại của nền kinh tế và điều kiện tài chính ngày một xấu đi của một bộ phận lớn doanh nghiệp Nhà nước. Hiện nay tỷ lệ nợ bao gồm nợ quá hạn khó đòi và nợ chờ xử lý của các ngân hàng thương mại đã lên tới 12,7 % cao hơn nhiều so với thông lệ quốc tế cho phép là 5%. chính vì vậy hệ thống NHTM cần được cải cách theo một số vấn đề chính sau
Thứ nhất, cải tổ và cơ cấu lại hệ thống NHTM quốc doanh theo hướng tăng khả năng cạnh tranh và giảm mức độ độc quyền. Kinh nghiệm quốc tế đã chỉ ra rằng
những hệ thống ngân hàng có tính cạnh tranh cao và hoạt động hiệu quả phải là một hệ thống có số lượng tương đối Ýt, trong đó không có ngân hàng nào có quyền thống trị thị trường. Trước năm 1997, nhìn chung hệ thống ngân hàng Việt nam bị chi phối bởi 4 NHTM quốc doanh với thị phần tiền gửi và tín dụng luôn trên 70%. Nhưng kể từ năm 1997 trở lại đây, thị phần của các NHTM quốc doanh đã giảm đi nhanh chóng chỉ còn chiếm 40 - 50%, cùng với đó chỉ số độc quyền cũng giảm đi nhanh chóng từ khoảng 80% năm 1993 xuống còn khoảng 35% vào năm 1999, nghĩa là giảm đi 2,3 lần. trên thực tế, mặc dù cấu trúc thị trường được cải thiện theo hướng tích cực nhưng hiệu quả hoạt động của ngân hàng không tăng lên như mong đợi. Vì vậy cần phải tiếp tục tiến hành những cải cách để khắc phục những yếu kém của các NHTM quốc doanh. Đối với các ngân hàng thương mại cổ phần phải có chiến lược cơ cấu lại theo hướng tăng cường sức cạnh tranh cho các ngân hàng đang hoạt động bình thường, kiên quyết rút giấy phếp hoạt động của các ngân hàng thua lỗ mất khả năng trả nợ, giới hạn phạm vi hoạt động của các ngan hàng có một vài yếu kém trong hoạt động hoặc không đủ vốn pháp định và cơ cấu lại toàn bộ các ngân hàng yếu kém có mức độ rủi ro không trả được nợ cao.
Thứ hai, cần phát triển một môi trường cạnh tranh hiệu quả trong hệ thống ngân hàng nói chung trên cơ sỏ đặt lợi nhuận lên hàng đầu. Các ngân hàng được tự do hơn trong việc phản ứng lại với những tín hiệu của thị trường để chọn những khách hàng cho riêng mình, đặt mức lãi suất trên trên cơ sở lãi suất cơ bản. Cho phép các tổ chức nước ngoài mở chi nhánh, liên doanh với các tổ chức trong nước hay cung cấp những dịch vụ chuyên nghành từ nước ngoài để tăng tính cạnh tranh trong hoạt động ngân hàng.
Thứ ba, cải cách các nguyên tắc quản lý quản trị ngân hàng và môi trường pháp lý. Hoàn thiện hệ thống thông tin rủi ro, việc kiểm soát phòng ngõa cần tăng cường để xây dựng điều kiện thị trường trật tự trên cơ sở thông tin thị trường minh bạch, sự giám sát hữu hiệu của các hoath động ngân hàng.
Thứ tư, tăng cường trang bị kĩ thuật tin học, hệ thống thu xử lí thông tin nhằm phục vụ tốt và nâng lên tầm hiện đại quá trình thanh toán qua ngân hàng; để các ngân hàng có thể thu thập kịp thời và xử lí nhanh nhạy các thông tin thị trường trong nước và quốc tế, làm chỗ dùa cho việc ra các quyết định quản lý đúng đắn, các quyết định kinh doanh sát hợp.