VQG nằm trọn trên dãy Bắc Trừơng Sơn có độ cao từ 100 - 1841 m so với mặt nước biển, trong đó 90% diện tích là dươí 900 m. Địa hình nghiêng dần từ Tây sang Đông. Đỉnh cao nhất là đỉnh Pù Mát có độ cao 1.841 m được lấy tên làm VQG. Từ dãy núi này nghiêng dần theo hướng Đông Nam tạo thành hệ thống dông có độ cao từ 500-1.500 m, đồng thời cũng tạo thành các thung lũng có kết cấu địa hình phức tạp.
Địa chất thổ nhữơng của VQG Pù Mát chưa có các cuộc điều tra nghiên cứu kỷ lưỡng nhưng giãi Trường Sơn được coi và phân loại như là một chuỗi phay nghịch biến thái trầm tích tạo thành.
Đá mẹ gồm hai loại chính là đá vôi và phiến thạch (Đá vôi chiếm khoảng 50%), hiện tượng Kart trung bình, phong hóa mạnh. Vùng núi thấp có ít đá mẹ phiến thạch sét rải rác, đá cát kết, đá biến chất.
Do các quá trình phong hóa, lắng đọng nên trong vùng nghiên cứu bao gồm các nhóm đất chính sau:
+ Đất Feralit đỏ vàng vùng đồi (dưới 200 m): Tập trung khu vực gần các trục đường giao thông, phần lớn là đồi trọc, hoặc có cây bụi do rừng bị tàn phá. Do đất bị rửa trôi xói mòn nhiều nên ít mùn (bé hơn 2%) độ chua cao (pH từ 4- 4,5) có hiện tượng đá ong mạnh.
+ Đất Feralit đỏ vàng trên núi đá vôi thấp (từ 100 - 300 m): Có thảm thực vật che phủ tương đối cao. Do sườn núi dốc, dòng nước ngầm chảy mạnh không đọng lại trong đất, nên các dạng kết vón và tầng đá ong không phát triển được. Hàm lượng mùn, đạm, lân, kali tổng số tương đối cao, độ chua thuỷ phân 6,61đl - 15 đl /100g đất, tổng số cation trao đổi 91đl - 14 đl/100 g đất.
+ Đất đỏ vàng trên núi đá vôi cao (từ 300 m trở lên): Phân bố rải rác khắp khu vực
nghiên cứu. ở nơi có địa hình thấp thường có tầng đất dày hơn, ở nơi cao đất đá vôi
bị phong hoá và rửa trôi mạnh nên tầng đất rất mỏng. Độ phì tương đối tốt (mùn từ 2
- 4%, đạm từ 0,15% trở lên, đất chua pH 4, độ no bazơ nhỏ hơn 50%).
+ Đất mùn vàng trên núi trung bình (diện tích này rất ít trong khu vực núi đá vôi nơi nghiên cứu).
+ Đất mùn màu đen trong các khe núi có độ dày tầng đất mỏng, cấu tượng viên hạt thoát nước.