Mặc dù trong nhiều năm qua Việt Nam đã đầu tư cải thiện nhiều hạng mục trong cơ sở hạ tầng. Tuy nhiên, kết cấu hạ tầng của Việt Nam vẫn chưa phù hợp với nhu cầu phát triển kinh tế về chi phí và chất lượng. Đây hiện được xem là vấn đề lớn nhất cản trở môi trường kinh doanh của đất nước. Theo báo cáo của Ngân hàng hợp tác quốc tế Nhật Bản (JBIC) năm 2010, thì vấn đề cơ sở hạ tầng yếu kém của Việt Nam vẫn trở ngại hàng đầu đối với doanh nghiệp Nhật Bản. Điểm tích cực là số lượng các doanh nghiệp Nhật rất không hài lòng với cơ sở hạ tầng giảm xuống từ 43,1% xuống còn 30,8%. Tuy nhiên, đa số doanh nghiệp Nhật (80%) cho rằng Việt Nam cần cải thiện hệ thống đường xá, sau đó là điện năng, cảng và hệ thống cấp thoát nước.
Giao thông vận tải và điện, hai hoạt động hạ tầng thiết yếu nhất, lại tỏ ra là hai lĩnh vực cơ sở hạ tầng yếu kém nhất ở Việt Nam khi các vụ cúp điện và tắt nghẽn giao thông ngày càng xảy ra. Theo đánh giá của UNDP thì mật độ đường giao thông/km của Việt Nam chỉ bằng 1% mức trung bình của thế giới, tốc độ truyền thông trung bình của Việt Nam chậm hơn thế giới 30 lần. Cùng với đó, tình trạng thiếu điện của Việt Nam ảnh hưởng tiêu cực đến kế hoạch kinh doanh đã khiến cho không ít các nhà đầu tư Nhật Bản cũng như các nhà đầu tư nước ngoài phải lo ngại. Theo Cục trưởng Cục Đầu tư nước ngoài cho biết, đã có nhà đầu tư phản ứng khá gay gắt, thậm chí có thể dừng đầu tư nếu không xử lý được dứt điểm
tình trạng cắt điện đột ngột. Cuộc khảo sát gần đây của Tổ chức Xúc tiến thương mại Nhật Bản (JETRO) cho thấy khoảng 70% doanh nghiệp Nhật Bản cảm thấy bất an vì thiếu điện khi kinh doanh tại Việt Nam.
Không những hệ thống hạ tầng yếu kém mà chi phí dịch vụ còn cao. Điều này đã gây thách thức cho Việt Nam trong việc thu hút và giải ngân hiệu quả vốn FDI. Chi phí dịch vụ hạ tầng phục vụ sản xuất công nghiệp như: viễn thông, cảng biển, vận tải của Việt Nam được đánh giá chỉ ở mức trung bình của các nước trong khu vực. Cước phí điện thoại quốc tế tại Việt Nam cao gấp đôi so với các nước Thái Lan, Malaysia, Indonesia, Singapore. Đa số gói cước vận tải đi từ các cảng của VN đều phải chịu mức cước cao hơn 20%-30% so với giá cước của các nước khác trong khu vực, dù cùng điểm đến và hải trình tương đương nhau. Chẳng hạn, cùng đến cảng Yokohama (Nhật Bản), giá dịch vụ vận chuyển container đi từ cảng Đà Nẵng cao hơn đi từ cảng của Thái Lan tới 300-400 USD/TEU (tương đương container 20 feet). Ngoài ra, chi phí thuê phòng và thuê nhà ở của người nước ngoài tại Việt Nam cũng cao vào hàng cao nhất nhì khu vực. Theo điều tra về môi trường kinh doanh do Tổ chức xúc tiến Thương mại Nhật Bản (Jetro) công bố, TP HCM có chi phí thuê văn phòng đắt thứ tư châu Á, cao hơn cả Singapore, Seoul, ngang ngửa với Bắc Kinh. Giá nhà cho người nước ngoài thuê tại Hà Nội đắt hơn nhiều so với các thành phố lớn khác tại châu Á như Singapore, Thượng Hải hay Seoul.