Để đảm bảo sự thống nhất trong việc xét xử, đảm bảo tính đúng đắn về chuyên môn nghiệp vụ cũng như thể hiện sự tôn trọng phán quyết của tòa án cấp trên thì tòa án cấp dưới có nghĩa vụ áp dụng những bản án đã được tuyên của tòa án cấp trên, căn cứ vào đó để đưa ra quyết định cho vụ án cụ thể của mình. Dưới góc độ thực tiễn pháp luật, để hiểu được mối quan hệ này, thì trước tiên người ta phải thấu hiểu về cấu trúc và thứ bậc của hệ thống tòa án trong mỗi hệ thống pháp luật là vô cùng quan trọng. Về nguyên tắc, trong mỗi hệ thống pháp luật thì án lệ của tòa án cấp trên sẽ có giá trị ràng buộc đối với tòa án cấp dưới. Theo mối quan hệ này thì án lệ của tòa án cấp cao nhất (Tòa án tối cao) sẽ có giá trị ràng buộc đối với tất cả các tòa án cấp dưới.
Rupert Cross, một nhà nghiên cứu về án lệ đã hệ thống ba quy tắc cơ bản về mỗi quan hệ giữa các tòa án trong hệ thống tòa án của Vương quốc Anh liên quan đến sự tuân thủ án lệ như sau:
Rule 1 (Quy tắc 1): Tất cả các tòa án phải lưu ý đến án lệ có liên quan đến các vụ án trong hoạt động xét xử; Rule 2 (Quy tắc 2): Tất cả các tòa án cấp dưới phải tuân thủ án lệ của các tòa án cấp trên trong hệ thống tòa án; Rule 3 (Quy tắc 3): Các tòa án phúc thẩm nhìn chung bị ràng buộc bởi chính án lệ của nó trong hoạt động xét xử [76].
Trong hệ thống pháp luật Hoa Kỳ, các tòa án cấp dưới của liên bang và các Tòa án của bang có nghĩa vụ tuân thủ các quyết định trước đây của Tòa án tối cao Lên bang. Các phán quyết của tòa án phúc thẩm khu vực của liên bang mang tính bắt buộc tuân theo đối với các tòa án cấp dưới nằm trong lãnh thổ khu vực đó chứ không ràng buộc các tòa án khu vực khác. Tương tự, các tòa án cấp trên chỉ có giá trị ràng buộc đối với các tòa án cấp dưới của bang mà thôi.
Tại Úc, khái niệm án lệ chính thức được đưa ra ở Úc là vào đầu thế kỷ XIX trong vụ án MIREHOUSE kiện RENNEL năm 1833 do thẩm phán Parke J đề cập trong bản án. Cũng như ở Anh, tại Úc, tòa án cấp dưới có nghĩa vụ phải tuân theo các phán quyết trước đây của tòa án cấp trên, cụ thể là Tòa án tối cao của bang phải tuân theo phán quyết của Tòa Toàn phần (Full Court) hoặc Tòa Phúc thẩm hoặc Tòa Phúc thẩm Hình sự, các tòa án này phải tuân theo phán quyết của Tòa án tối cao Liên bang (High Court) . Trong trường hợp tòa án cấp dưới không đồng tình với phán quyết của tòa án cấp trên thì vẫn phải tuân thủ tòa án cấp trên nhưng có thể nhận định: nếu không phải tuân thủ tòa án cấp trên thì có thể xét xử theo hướng khác, vì lý do… việc nhận định này sẽ giúp tòa án cấp trên xem xét lại quyết định của mình. Trong thực tiễn tòa án của Úc có thể dẫn chiếu bản án của Tòa án tối cao Vương quốc Anh, nhưng việc dẫn chiếu này chỉ mang tính tham khảo, không có tính ràng buộc. Khi phát hiện bản án của tòa án cấp dưới có vi phạm pháp luật thì tòa án cấp trên sửa lại hoặc giao cho tòa án khác giải quyết lại. Đây là dấu hiệu đặc trưng khác với trình tự xét xử của Việt Nam [2, tr. 49].