Có thể nhận thấy rằng, trong giai đoạn từ 1962 đến 1/10/1995 cả Tổng Công đoàn Lao động Việt Nam (sau này là Tổng Liên đoàn Lao động Việt Nam) cùng với Ngành Lao động - Thương binh & Xã hội đã có nhiều cố gắng trong việc hoàn thành nhiệm vụ thu nộp BHXH. Trong chừng mực nhất định, chính sách BHXH lúc đó đã có tác dụng góp phần đảm bảo ổn định đời sống và động viên khuyến khích đội ngũ công nhân viên chức, lực lượng vũ trang làm việc, chiến đấu, tạo ra sự gắn kết giữa người lao động và xã hội, góp phần vào sự thắng lợi của cuộc kháng chiến chống thực dân đế quốc trong sự nghiệp xây dựng và bảo vệ tổ quốc Việt Nam xã hội chủ nghĩa.
Tuy nhiên, bên cạnh những ưu điểm nêu trên thì quá trình thực hiện các chế độ chính sách BHXH trong cơ chế cũ không tránh khỏi những bất cập, hạn chế cần khắc phục, cụ thể:
- Do cách tính mức đóng góp BHXH không tương xứng với mức chi trả cho các chế độ BHXH. Do vậy, trong một thời gian dài Ngân sách Nhà nước thường xuyên phải hỗ trợ cho các cơ quan trên trong chi trả BHXH dẫn tới việc chưa xây dựng và hình thành được quỹ BHXH độc lập với Ngân sách Nhà nước, nguồn
hình thành thực chất là do Ngân sách Nhà nước cấp phát. Trong khi đó, đối tượng tham gia và được hưởng các chế độ BHXH chỉ áp dụng đối với công nhân viên chức và lực lượng vũ trang nên thực sự chưa thể hiện tính xã hội cao, có sự phân biệt giữa người lao động làm việc trong khu vực Nhà nước và ngoài khu vực Nhà nước, gây tâm lý chỉ lao động trong khu vực Nhà nước mới có vị trí trong xã hội và chưa thể hiện sự công bằng khi tuổi già.
- Tổ chức quản lý BHXH phân tán, không có một cơ quan đặc trách riêng quản lý Nhà nước về BHXH cũng như không có một cơ quan đặc trách riêng về quản lý hoạt động sự nghiệp BHXH mà có sự lẫn lộn giữa hai chức năng này ở cả hai cơ quan quản lý trên. Việc có nhiều cơ quan cùng quản lý các chế độ BHXH đã gây ra sự chồng chéo không thống nhất trong điều hành, quản lý thu nộp BHXH đồng thời cũng tạo ra sự không đồng bộ trong các chế độ chính sách BHXH, theo đó là sự nhận thức không đầy đủ về BHXH từ người quản lý đến người lao động đã dẫn tới thiếu chủ động trong kiến nghị, đề xuất của từng cơ quan với Chính phủ về các thay đổi trong mức đóng góp, phạm vi các đối tượng tham gia và được hưởng BHXH v.v... cho phù hợp với tình hình thức tế.
- Ngoài ra, việc trông chờ vào sự bao cấp của Ngân sách Nhà nước và sự thiếu chủ động của các cơ quan quản lý BHXH cũng đã tạo ra thói quen, tâm lý ỷ lại, thiếu tự giác của cả chủ sử dụng lao động và người lao động, họ chưa thấy rõ hết trách nhiệm cũng như quyền lợi trong việc tham gia BHXH. Bên cạnh đó, các chế độ BHXH của ta chưa áp dụng được hầu hết các chế độ BHXH do Tổ chức lao động quốc tế (ILO) đề ra và còn có sự đan xen kẽ của các chế độ ưu đãi và trợ cấp xã hội vào đó. Điều này đã gây hết
sức khó khăn cho việc thực hiện công tác BHXH khi chuyển sang cơ chế mới.
Chính tất cả những bất cập, hạn chế trên mà việc ra đời một cơ quan duy nhất giúp Thủ tướng Chính phủ chỉ đạo, quản lý quỹ BHXH và thực hiện các chế độ, chính sách BHXH theo pháp luật của Nhà nước là một thức tế khách quan trong điều kiện nền kinh tế thị trường định hướng xã hội chủ nghĩa nhằm hướng hoạt động sự nghiệp BHXH Việt Nam theo đúng nội dung, bản chất vốn có của nó.