Các TĐKT trên thế giới được hình thành theo hai con đường chủ yếu là: con đường phát triển truyền thống và tập đoàn hình thành trên cơ sở một công ty Nhà nước có quy mô rất lớn. Ở Việt Nam hiện nay, các tập đoàn đang được hình thành theo con đường thứ hai. Sự phát triển các tập đoàn ở Việt Nam xuất phát từ sự hoạt động kém hiệu quả của hệ thống các Tổng công ty Nhà nước, không phù hợp với cơ chế thị trường và quá phụ thuộc vào các mệnh lệnh hành chính. Chính vì thế TĐKT ở Việt Nam là kết quả của quá trình tập trung, cạnh tranh và liên kết.
Quyết định số 91/QĐ - TTG của chính phủ ban hành 7/2/1994 chính thức đưa ra ý tưởng phát triển các Tổng công ty lớn thành các TĐKT. 5 Tổng công ty lớn được lựa chọn để thực hiện mô hình này là: Tổng công ty bưu chính viễn thông, than khoáng sản, công nghiệp tàu thủy, dệt may và tài chính bảo hiểm Bảo Việt. Đến năm 1995, mô hình và cơ chế hoạt động của Tổng công ty chính thức được đưa vào Luật Doanh nghiệp Nhà nước.
Mặc dù tinh thần của quyết định 91 là thành lập các tập đoàn kinh doanh nhưng thời điểm năm 1994 mô hình tập đoàn ở Việt Nam vẫn còn rất mới mẻ. Vì thế các doanh nghiệp được thành lập theo hình thức nói trên không gọi là các tập đoàn ngay mà gọi là các Tổng công ty 91. Cho đến năm 2006 thì các Tổng công ty 91 mới bắt đầu chuyển thành những tập đoàn thực sự.
Quyết định số 91 cho thí điểm thành lập TĐKT ở mỗi Bộ, ngành quản lý kinh tế kỹ thuật và thành phố Hồ Chí Minh. Tập đoàn là một pháp nhân, do Nhà nước thành lập gồm gồm nhiều doanh nghiệp với các tiêu chí như: phải có ít nhất 7 doanh nghiệp, được hoạt động đa ngành nghề nhưng phải có một
số doanh nghiệp hoạt động chủ đạo và được thành lập một công ty tài chính để huy động vốn và cho vay các doanh nghiệp thành viên; tập đoàn kinh doanh được thành lập trong phạm vi toàn quốc, khu vực và địa phương; Hội đồng quản trị phải có từ 7 đến 9 thành viên do Thủ tướng chính phủ bổ nhiệm. Đây có thể được coi là cơ sở pháp lý về TĐKT ở Việt Nam. Sau khi có quyết định trên Chính phủ đã lần lượt ban hành quyết định thành lập 18 tổng công ty bao gồm:
- Tổng công ty dệt may Việt Nam hiện nay đã chuyển thành Tập đoàn dệt may Việt Nam.
- Tổng công ty điện lực Việt Nam hiện nay đã chuyển đổi thành Tập đoàn điện lực Việt Nam.
- Tổng công ty dầu khí Việt Nam hiện nay đã chuyển đổi thành Tập đoàn dầu khí quốc gia Việt Nam.
- Tổng công ty than Việt Nam và tổng công ty khoáng sản Việt Nam đã biên nhập vào với nhau hiện nay chuyển thành Tập đoàn công nghiệp than - khoáng sản Việt Nam.
- Tổng công ty cao su Việt Nam hiện nay đã chuyển thành Tập đoàn cao su Việt Nam.
- Tổng công ty bưu chính viễn thông Việt Nam hiện nay đã chuyển đổi thành Tập đoàn bưu chính viễn thông Việt Nam.
- Tổng công ty hóa chất Việt Nam hiện đang xin Chính phủ phê duyệt để chuyển đổi thanh Tập đoàn hóa chất Việt Nam vào năm 2008.
- Tổng công ty giấy Việt Nam - Tổng công ty thép Việt Nam - Tổng công ty thuốc lá Việt Nam - Tổng công ty hàng không Việt Nam
- Tổng công ty công nghiệp xi măng Việt Nam
- Tổng công ty lương thực miền Bắc và tổng công ty lương thực miền Nam đang có kế hoạch sáp nhập làm một.
- Tổng công ty cà phê Việt Nam - Tổng công ty đường sắt Việt Nam
- Tổng công ty hàng hải Việt Nam đang thực hiện chuyển đổi thành tập đoàn hàng hải Việt Nam vào năm 2010.
Mục tiêu của mô hình Tổng công ty nhà nước là nhằm xóa bỏ dần cơ chế chủ quản hành chính, tách hẳn quản lý sản xuất kinh doanh ra khỏi quản lý nhà nước, tạo điều kiện cho các doanh nghiệp nhà nước liên kết, tập hợp lại với nhau trong “ngôi nhà” Tổng công ty để trở thành những “quả đấm thép” của nền kinh tế. Một cách cụ thể, nếu như trước đây các cơ quan Nhà nước như UBND các cấp, các sở, các bộ, ban ngành (cơ quan chủ quản) trực tiếp quản lý các doanh nghiệp Nhà nước thì giờ đây chức năng ấy được chuyển giao cho các Tổng công ty. Cả nước có khoảng 96 tổng công ty 90, 91. Một số Tổng công ty đã tận dụng được thế mạnh của mình để trở thành những thương hiệu lớn. Tuy nhiên, trong quá trình triển khai đã bộc lộ không ít bất cập. Trong rất nhiều Tổng công ty, sự phối hợp giữa các thành viên tỏ ra rất rời rạc, lỏng lẻo.
Để khắc phục những nhược điểm trên, từ năm 2001 Nhà nước đã đưa ra giải pháp thí điểm chuyển các Tổng công ty nhà nước sang hoạt động theo mô hình công ty mẹ-con. Điểm mấu chốt của mô hình này so với Tổng công ty 90, 91 là sự thay đổi cơ bản trong mối quan hệ giữa Tổng công ty (mẹ) và các thành viên (con). Trong đó, công ty mẹ do các công ty tự đầu tư thành lập và đồng thời công ty mẹ đầu tư bằng tài chính vào các công ty con (đầu tư 100% vốn hoặc giữ quyền chi phối hoặc có một phần vốn góp không chi phối ở công ty con). Sau một thời gian thí điểm được báo cáo là có kết quả tốt, mô hình công ty mẹ-con tiếp tục được luật hóa bởi Nghị định 153/2004/NĐ-CP của Chính phủ. Có thể nói, mô hình công ty mẹ-con đã tạo ra một bước tiến mới trong quá trình đổi mới, sắp xếp lại khu vực doanh nghiệp nhà nước. Các Tổng công ty 90, 91 từ phương thức quản lý theo kiểu hành chính (cấp trên - cấp dưới) và cơ chế giao vốn đã chuyển sang mối quan hệ bình đẳng, tự
nguyện và cơ chế đầu tư vốn. Theo một báo cáo của UBND thành phố Hồ Chí Minh, chỉ sau hơn một năm thực hiện chuyển đổi theo Nghị định 153, doanh thu của 11 Tổng công ty trên địa bàn thành phố đã hoạt động theo mô hình công ty mẹ-con tăng bình quân 48%; lợi nhuận tăng 24%...
Tuy vậy, mô hình công ty mẹ-con vẫn bộc lộ một số hạn chế. Theo các chuyên gia, trở ngại lớn nhất trong việc thực hiện mô hình này là tình trạng thiếu vốn và yếu về năng lực quản lý. Vì thiếu vốn nên “mẹ” không đủ sức đầu tư, nuôi nấng các “con” trong khi rất nhiều “con” cũng đói vốn, khát vốn. Báo cáo của UBND thành phố Hồ Chí Minh cũng xác nhận rằng bộ máy nghiệp vụ của công ty mẹ chưa theo kịp yêu cầu để thực hiện hai chức năng đầu tư tài chính và tự sản xuất kinh doanh. Với mục tiêu tạo ra những doanh nghiệp “xương sống” của nền kinh tế, đủ sức cạnh tranh trong thời kỳ hội nhập, Thủ tướng Chính phủ đã phê duyệt thành lập thí điểm 8 tập đoàn kinh tế nhà nước.
Nghị quyết Hội nghị TW lần thứ 3 khóa IX đã chỉ rõ: “Hình thành một số tập đoàn kinh tế mạnh trên cơ sở các Tổng công ty Nhà nước có sự tham gia của các thành phần kinh tế, kinh doanh đa ngành nghề, trong đó có ngành kinh doanh chính, chuyên môn hóa cao và giữ vai trò chi phối trong nền kinh tế quốc dân, có quy mô rất lớn về vốn, hoạt động cả trong và ngoài nước, có trình độ công nghệ cao và quản lý hiện đại, có sự gắn kết trực tiếp chặt chẽ giữa khoa học và đào tạo, nghiên cứu triển khai với sản xuất kinh doanh”. Thực hiện Nghị quyết trên, Thủ tướng Chính phủ đã ban hành chỉ thị số 04/CT – TTG ngày 8/2/2002 về tiếp tục sắp xếp, đổi mới, phát triển và nâng cao hiệu quả của các doanh nghiệp Nhà nước, trong đó tại điẻm 4 quy định về thí điẻm mô hình tổ chức quản lý mới:
- Các Bộ, ngành, Ủy ban nhân dân các tỉnh, các Tổng công ty nhà nước chọn một số doanh nghiệp đã chuyển đổi thành công ty TNHH một thành viên.
- Ban chỉ đạo đổi mới doanh nghiệp Nhà nước thống nhất với các Bộ, ngành, UBND tỉnh, thành phố, và các Tổng công ty trình chính phủ quy định một số doanh nghiệp cần tiến hành thí điểm thực hiện mô hình công ty mẹ - công ty con.
- Thí điểm thành lập tập đoàn kinh doanh dầu khí, điện lực, viễn thông, xây dựng.
Trong tiến trình hội nhập và phát triển kinh tế, trước áp lực cạnh tranh từ bên ngoài, nhất là sau khi Việt Nam thực hiện Hiệp định thương mại Việt Nam – Hoa Kỳ (VN – US BTA) và chuẩn bị gia nhập WTO, và trong bối cảnh các doanh nghiệp Việt Nam sức cạnh tranh còn yếu kém, thì chủ trương của Đảng và Nhà nước thành lập các TĐKT là một chủ trương đúng đắn.