Sở Giao thông - Công chánh (nay là Sở Giao thông vận tải thành phố Hồ Chí Minh) đƣợc thành lập theo Quyết định số 09/QĐ-UB ngày 09 tháng 01 năm 1991 của Ủy ban nhân dân thành phố Hồ Chí Minh trên cơ sở hợp nhất Sở Giao thông vận tải và Sở Công trình đô thị với chức năng quản lý nhà nƣớc về hệ thống kết cấu hạ tầng kỹ thuật của thành phố trên các lĩnh vực giao thông đƣờng thuỷ, bộ (cầu đƣờng, luồng lạch, kè cống, phao tiêu, vận tải, bốc xếp; bến cảng sông, biển, bến xe, cấp thoát nƣớc; vỉa hè, chiếu sáng, công viên cây xanh, vệ sinh công cộng; sản xuất công nghiệp thuộc ngành giao thông công chánh).
Ngày 21 tháng 3 năm 2005, Ủy ban nhân dân thành phố Hồ Chí Minh ban hành Quyết định số 1187/QĐ-UB đổi tên Sở Giao thông - Công chánh thành Sở Giao thông - Công chính. Sau đó, nhằm sắp xếp tổ chức bộ máy các cơ quan chuyên môn trực thuộc Ủy ban nhân dân thành phố cho phù hợp với quy định tại Nghị định số 13/2008/NĐ-CP ngày 04 tháng 02 năm 2008 của Chính phủ quy định về tổ chức các cơ quan chuyên môn trực thuộc Ủy ban nhân dân các tỉnh, thành phố trực thuộc trung ƣơng, Ủy ban nhân dân thành phố Hồ Chí Minh ban hành Quyết định số
53/2008/QĐ-UBND ngày 13 tháng 6 năm 2008 đổi tên Sở Giao thông - Công chính thành Sở Giao thông vận tải.
Tuy nhiên, về chức năng, nhiệm vụ của Sở Giao thông vận tải, Ủy ban nhân dân thành phố Hồ Chí Minh đã nhiều lần kiến nghị và đƣợc Thủ tƣớng Chính phủ chấp thuận cho Ủy ban nhân dân thành phố Hồ Chí Minh đƣợc giao cho Sở Giao thông vận tải tham mƣu, giúp Ủy ban nhân dân thành phố ngoài quản lý nhà nƣớc về giao thông vận tải, gồm: đƣờng bộ; đƣờng thuỷ; vận tải; an toàn giao thông (theo quy định tại Nghị định số 13/2008/NĐ-CP ngày 04 tháng 02 năm 2008 của Chính phủ quy định về tổ chức các cơ quan chuyên môn trực thuộc Ủy ban nhân dân các tỉnh, thành phố trực thuộc trung ƣơng); còn đƣợc giao thêm nhiệm vụ tham mƣu cho Ủy ban nhân dân thành phố quản lý nhà nƣớc về kết cấu hạ tầng giao thông khác (cấp thoát nƣớc, công viên cây xanh, chiếu sáng công cộng và bãi đỗ xe đô thị...).