Thỏa thuận trọng tài thể hiện sự nhất trí của các bên cùng đưa tranh chấp ra trọng tài giải quyết theo một quy tắc của tổ chức trọng tài nhất định đưa ra. Đây là cơ sở cho các bên tiến hành giải quyết bằng trọng tài cũng như giải quyết các vấn đề phát sinh trong quá trình trọng tài. Thỏa thuận trọng tài có hiệu lực khơng chỉ là hình thức pháp lý ghi nhận sự thảo thuận của các bên, mà còn là căn cứ pháp lý để dựa vào đó bên vi phạm có quyền yêu cầu bên vi phạm phải thực hiện nghĩa vụ thỏa thuận. Vì thỏa thuận trọng tài có vị trí, vai trị quan trọng mang tính quyết định đối với việc áp dụng phương thức giải quyết tranh chấp bằng trọng tài nên pháp luật các nước cũng như pháp luật quốc tế đều dành cho thỏa thuận trọng tài một sự quan tâm đặc biệt, thể hiện ở chỗ, trong các đạo luật về trọng tài thường có một chương riêng, thường là Chương II, để quy định về vấn đề này (Luật TTTM quốc tế Liên bang Nga 1993; Luật Trọng tài Canada 1986; Luật Trọng tài Đức 1998; Luật Trọng tài Croatia 2001; Luật Trọng tài Nhật Bản năm 2003; Luật Trọng tài Singapore năm 2001). Điều này cho thấy vị trí của thỏa thuận trọng tài vô cùng quan trọng. Tuy nhiên, các quy định về thỏa thuận trọng tài phải rõ ràng, đầy đủ thì mới tạo cơ sở cho việc tiến hành trọng tài một cách thuận lợi.
Theo quy định của Luật TTTM 2010 thì một thỏa thuận trọng tài sẽ có hiệu lực khi các bên tranh chấp đã thỏa thuận bằng văn bản đưa tranh chấp của họ ra giải quyết bằng trọng tài. Điều này có khác với quan điểm của một vài nước khác của hệ thống luật án lệ. Ví dụ ở Australia, thỏa thuận trọng tài có thể là thỏa thuận miệng. Tương tự, theo luật án lệ, một thỏa thuận bằng miệng có thể được thi hành ở Hồng Kơng hoặc ở Anh. Ở một số nước khác, ví dụ, Đan Mạch, Thụy Điển, thỏa thuận trọng tài không nhất thiết phải được làm bằng văn bản.