Ý tưởng ban đầu về xây dựng và phát triển mô hình sản xuất kinh doanh quy mô lớn khởi nguồn từ thập kỷ 70 của thế kỷ XX với mô hình liên hiệp các xí nghiệp quốc doanh (Nghị định số 302/ HĐBT ngày 20/12/ 1978). Trong quá trình hoạt động, mô hình này cũng cho thấy những bất cập đặc biệt là sau năm 1986, Việt Nam chuyển từ cơ chế tập trung quan liêu bao cấp sang cơ chế thị trường có sự quản lý của nhà nước. Trong thời kỳ đổi mới, vai trò chủ đạo của kinh tế nhà nước trong quan niệm của Đảng cộng sản Việt Nam cũng dần thay đổi, từ “chiếm tỷ trọng lớn trong sản xuất lưu thông” (Đại hội VI) sang “củng cố và phát triển trong những ngành và lĩnh vực then chốt, nắm những doanh nghiệp trọng yếu và đảm bảo những hoạt động mà các thành phần khác không có điều kiện hoặc không muốn đầu tư kinh doanh…”(Chiến lược phát triển kinh tế xã hội từ năm 1991-2000). Bên cạnh đó, Đảng và Nhà nước cũng sớm nhận thức tầm quan trọng của vấn đề hội nhập kinh tế và chủ động hội nhập kinh tế. Cùng với việc mở rộng quan hệ với các nước, chúng ta tích cực chủ động gắn kết kinh tế nước ta với kinh tế thế giới và khu vực thông qua việc chuẩn bị để tham gia vào các thể chế kinh tế trên phạm vi toàn cầu và khu vực. Quan điểm này một mặt tạo tiền đề cho sự phát triển khu vực kinh tế ngoài nhà nước nhất là khu vực tư nhân; mặt khác không còn coi vai trò chủ đạo của kinh tế quốc doanh là điều mặc nhiên mà phải gắn với việc “sắp xếp lại, đổi mới công nghệ và tổ chức quản lý kinh doanh có hiệu quả, liên kết và hỗ trợ các thành phần kinh tế khác, thực hiện vai trò chủ đạo và chức năng của một công cụ điều tiết vĩ mô của nhà nước. Các xí nghiệp quốc doanh hoạt động theo nguyên tắc tự chủ kinh doanh, tự trang trải và tích lũy trong môi trường hợp tác, cạnh tranh: nhà nước
chỉ tài trợ có thời hạn cho một số cơ sở thực sự cần thiết”. Trước tình hình đó, Nghị định số 388/HĐBT của Hội đồng bộ trưởng ngày 20 -11- 1991 cho phép các đơn vị thành viên được đăng ký thành lập doanh nghiệp, có tư cách pháp nhân, hoạt động theo điều lệ về doanh nghiệp. Thực tế, Nghị định số 388/HĐBT đã làm thay đổi căn bản mô hình liên hiệp xí nghiệp. Nhiều liên hiệp ở các địa phương giải thể, các liên hiệp ở Trung ương và các Bộ, ngành buộc phải tìm tòi đi hướng mới.
Tình hình trong nước và hội nhập kinh tế quốc tế đã đặt ra yêu cầu sắp xếp lại các liên hiệp xí nghiệp theo hướng hình thành thực thể kinh doanh có quy mô lớn, phù hợp với cơ chế thị trường có sự quản lý của nhà nước, nâng cao khả năng cạnh tranh quốc tế, khắc phục tính chất phân tán, nhỏ lẻ của các doanh nghiệp Việt Nam. Đại hội đại biểu toàn quốc lần thứ VII của Đảng xác định: Sắp xếp lại các liên hiệp xí nghiệp phù hợp với yêu cầu sản xuất kinh doanh trong cơ chế thị trường...xây dựng một số công ty hoặc liên hiệp xí nghiệp lớn, có uy tín và khả năng cạnh tranh trong quan hệ kinh tế với nước ngoài. Tại Hội nghị lần thứ bảy ban chấp hành trung ương Đảng khóa VII, một lần nữa Đảng ta nhấn mạnh chủ trương “ hình thành một số tổ chức kinh tế lớn, với mức tích tụ, tập trung cao về vốn, đủ sức cạnh tranh trên thị trường thế giới”.
Thực hiện chủ trương của Đảng, ngày 07-03-1994, Thủ tướng chính phủ đã ban hành Quyết định số 90/ TTg và yêu cầu làm thủ tục thành lập và đăng ký lại doanh nghiệp nhà nước chưa được sắp xếp theo nghị định 388/HĐBT, đồng thời tiến hành sắp xếp, đăng ký lại các liên hiệp xí nghiệp, tổng công ty. Đối với các doanh nghiệp nhà nước, các liên hiệp xí nghiệp không đủ điều kiện thì tiến hành sắp xếp lại theo nhiều hình thức khác nhau như giải thể, phá sản, sáp nhập, hợp nhất hoặc chuyển thành doanh nghiệp nhà nước độc lập. Với mục tiêu thúc đẩy tích tụ và tập trung, nâng cao năng lực cạnh tranh, từng bước xóa bỏ bộ chủ quản, tăng cường vai trò quản lý của Nhà nước..., ngày 07-3-1994, Thủ tướng Chính phủ đã ban hành Quyết định số 91/TTg về thí điểm thành lập một số tổng công ty theo mô hình tập đoàn kinh doanh. Các đơn vị được lựa chọn thí điểm là các tổng công ty hoặc công
ty lớn, nắm giữ những ngành, lĩnh vực quan trọng của nền kinh tế, có mối liên kết về ngành, nghề, vùng lãnh thổ.
TCTNN là tổ chức kinh doanh có tư cách pháp nhân, có con dấu, có tài sản và có các quỹ tập trung theo quy định của Chính phủ, được nhà nước giao quản lý vốn, tài nguyên, đất đai và các nguồn lực khác, có trách nhiệm bảo toàn và phát triển vốn, sử dụng có hiệu quả nguồn lực được giao. Luật doanh nghiệp năm 1995 cũng quy định rõ cơ chế hoạt động của các đơn vị thành viên bao gồm các doanh nghiệp hạch toán độc lập, hạch toán phụ thuộc vào đơn vị sự nghiệp. Nhằm cụ thể hóa luật doanh nghiệp nhà nước, Chính phủ đã ban hành Nghị định số 39/CP ngày 27 -6 -1995 quy định Điều lệ mẫu về tổ chức và hoạt động của TCTNN trong đó quy định rõ về quyền, nghĩa vụ của các tổng công ty nhà nước, của Hội đồng quản trị, Ban kiểm soát, Tổng giám đốc, đơn vị thành viên quản lý phần vốn góp, tài chính, mối quan hệ giữa tổng công ty với các cơ quan nhà nước và địa phương...
Mô hình TCT được thành lập theo Quyết định 90/TTg và 91/TTg có mô hình khác hẳn với mô hình liên hiệp xí nghiệp quốc doanh trước đây về các tiêu chí lượng hóa và cách thức tổ chức quản lý đa dạng hơn, phạm vi hoạt động rộng hơn.Về bản chất, đây là các TCT kinh doanh, tạo nên sự hợp lực mạnh về vốn, công nghệ và các dịch vụ chung, vừa phát huy được trí tuệ và trách nhiệm của Hội đồng quản trị và Tổng giám đốc, vừa kết hợp được dự phân cấp quyền và chủ động của các đơn vị thành viên.
Sau gần 5 năm hoạt động, mô hình TCTNN đã có những đóng góp quan trọng cho sự phát triển kinh tế - xã hội, song cũng bộ lộ hạn chế nhất định thể hiện qua hiệu quả hoạt động giảm dần và có quá nhiều tổ chức là đại diện sở hữu của TCTNN, dù đó là cơ quan nhà nước vừa thực hiện chức năng quản lý nhà nước, vừa thực hiện chức năng chủ sở hữu đối với các tổng công ty. Nhận thức rõ hiện trạng và xu hướng phát triển của mô hình này, Hội nghị lần thứ tư Ban chấp hành trung ương Đảng khóa VIII đã chỉ rõ: “Tổng kết mô hình tổng công ty nhà nước, trên cơ sở đó có phương án xây dựng các tổng công ty thực sự trở thành những tập đoàn kinh
tế mạnh, có hiệu quả và sức cạnh tranh cao, thực sự là xương sống của nền kinh tế. Xem xét sắp xếp lại những tổng công ty không phù hợp, hoạt động kém hiệu quả”
Cuối năm 2001, các TCTNN được bố trí lại như sau: 96 TCTNN, trong đó có 18 TCT 91 và 78 TCT 90 với hơn 1.700 doanh nghiệp thành viên. Trong lĩnh vực công nghiệp, xây dựng, giao thông vận tải có hơn 60 TCT (12 TCT 91 và 48 TCT 90), trong lĩnh vực nông – lâm – thủy sản gồm 22 TCT (4 TCT 91 và 18 TCT 90); trong lĩnh vực thương mại, dịch vụ, ngân hàng, y tế có 8 TCT 90.
Sau 8 năm hoạt động kể từ Quyết định số 90/TTg và quyết định 91/TTg có hiệu lực, ngày 26-4-2002 Thủ tướng chính phủ ban hành quyết định số 58/2002/ QĐ- TTg về tiêu chí, doanh mục phân loại DNNN và TCTNN. Quyết định này không phân biệt TCT 91 hay TCT 90 mà chỉ có một loại hình TCTNN theo tiêu chí nói trên. Mặc dù tiêu chí để các tổng công ty nhà nước tồn tại và phát triển không gì vượt quá khả năng của các TCT vì điều kiện này đã được quy định trước khi có Quyết định số 58/2002/QĐ – TTg tám năm. Tuy nhiên, đây là quyết định quan trọng trong tiến trình sắp xếp, đổi mới, phát triển DNNN nói chung và các TCT nói riêng, các tiêu chí định lượng rõ ràng nói lên quyết tâm sắp xếp, phát triển các TCTNN trong thời gian tới.
Nhằm tiếp tục thực hiện sắp xếp, đổi mới, phát triển và nâng cao hiệu quả doanh nghiệp Nhà nước theo tinh thần Nghị quyết Trung ương 3 khóa IX, Quyết định số 58/2002/QĐ-TTg của Thủ tướng Chính phủ ngày 16-01-2003 Thủ tướng chính phủ đã ban hành chỉ thị số 01/2003/CT-TTg về tiếp tục đẩy mạnh sắp xếp, phát triển và nâng cao hiệu quả của doanh nghiệp Nhà nước. Trong đợt sắp xếp này, Thủ tướng chính phủ đã phê duyệt 90 đề án, quyết định giải thể, sát nhập, hợp nhất, tổ chức lại một số tổng công ty.
Luật doanh nghiệp nhà nước năm 2003, được Quốc hội thông qua ngày 26/12/2003 đã dành một chương quy định về TCTNN, theo đó: tổng công ty nhà nước là hình thức kinh tế trên cơ sở tự đầu tư, góp vốn giữa các công ty nhà nước, giữa công ty nhà nước với các doanh nghiệp khác hoặc hình thành trên cơ sở tổ
chức là liên kết các đơn vị thành viên có mối quan hệ gắn bó với nhau về lợi ích kinh tế, công nghệ, thị trường và các dịch vụ kinh doanh khác, hoạt động trong một hoặc một số chuyên ngành kinh tế - kỹ thuật chính nhằm tăng cường khả năng kinh doanh và thực hiện lợi ích của các đơn vị thành viên và toàn tổng công ty. Luật doanh nghiệp nhà nước năm 2003 cũng quy định tổng công ty nhà nước bao gồm ba hình thức cơ bản:
i) Tổng công ty do nhà nước quyết định đầu tư thành lập ii) Tổng công ty do các công ty tự đầu tư thành lập iii) Tổng công ty Đầu tư và kinh doanh vốn Nhà nước.