Xí nghiệp xây dựng số 2 tiền thân trước đây là Trung đoàn 758 thuộc binh đoàn 318 nhận nhiệm vụ xây dựng và phát triển dầu khí tại Vũng Tàu theo quyết định 225/HĐBT ngày 30/8/1980 .Sau khi binh đoàn 318 được chuyển thành Xí nghiệp liên hợp xây lắp dầu khí thuộc tổng cục dầu khí ,các trung đoàn trực thuộc chuyển thành các xí nghiệp thành viên của xí nghiệp liên hợp và xây lắp dầu khí ,trong đó có xí nghiệp xây dựng số 2 .Xí nghiệp liên hợp xây lắp dầu khí nay đổi tên thành Công ty thiết kế và xây dựng dầu khí trực thuộc Xí nghiệp dầu khí Việt Nam theo nghị định số 338 của Chính phủ ).
Khi thành lập Xí nghiệp xây dựng số 2 nhận nhiệm vụ thi công xây dựng các công trình công nghiệp và dân dụng tại địa bàn Vũng Tàu theo nhiệm vụ phát triển thăm dò dầu khí của Tổng cục dầu khí .Đến năm 1986 theo yêu cầu của ngành dầu khí ,Xí nghiệp xây dựng số 2 nhận nhiệm vụ di chuyển bộ máy ra đóng tại địa bàn Hà Nội để phục vụ xây dựng các công trình công nghiệp và dân dụng của ngành tại khu vực phía Bắc .Hiện nay Xí nghiệp xây dựng số 2 có trụ sở đóng tại 63 Huỳnh Thúc Kháng -Quận Đống Đa -Hà Nội và là đơn vị kinh doanh có tư cách pháp nhân không đầy đủ , hoạt động kinh doanh theo điều lệ của Công ty thiết kế và khai thác dầu khí .Tuy nhiên do địa bàn hoạt động ở xa nên được uỷ quyền rộng hơn các xí nghiệp thành viên khác về lĩnh vực Tài chính.
Từ khi thành lập đến nay mặc dù gặp phải nhiều khó khăn do thay đổi địa bàn hoạt động ,tiếp cận với thị trường mới và những khó khăn trong quá trình chuyển đổi từ nền kinh tế kế hoạch tập trung sang nền kinh tế thị trường ,Xí
nghiệp xây dựng số 2 đã không ngừng nghiên cứu ,đổi mới phương thức quản lý ,tăng cường đội ngũ cán bộ công nhân viên có tay nghề ,kỹ thuật cao , mở rộng qui mô phát triển và đã từng bước khẳng định vị trí của mình ,làm ăn có hiệu quả ,đời sống cán bộ công nhân viên được ổn định và ngày càng được nâng cao .