Thông thường Toà án là bộ phận gắn liền với bộ máy nhà nước, do vậy việc hình thành hệ thống Toà án được xây dựng theo cấp hành chính (trừ cấp cơ sở thấp nhất là xã, phường). Từ cấp quận, huyện... là cơ sở xây dựng hệ thống Toà án sơ cấp và cấp hành chính trên cấp quận như tỉnh, thành phố, khu vực tự trị... là cấp thứ hai và cấp trung ương là Toà án tối cao. Việc tổ chức này thể hiện tính thống nhất cao trong bộ máy nhà nước; tạo điều kiện cho việc phân cấp quản lý và thực hiện chế độ bổ nhiệm, chế độ đãi ngộ Thẩm phán cũng như áp dụng chế độ vật chất và thực hiện việc kiểm tra giám sát của nhân dân thông qua cơ quan đại diện từng cấp.
Hiện nay, nhiều nước trên thế giới đã tổ chức theo mô hình này. Điển hình là Toà án Trung Quốc. Trung Quốc là một quốc gia rộng lớn, có số dân đông nhất thế giới và bộ máy nhà nước phân chia làm 5 cấp hành chính. Tương ứng với các cấp hành chính từ cấp quận, huyện trở lên là cơ sở hình thành 4 cấp Toà án, đó là:
(i) Toà án cấp huyện (Tòa sơ cấp);
(ii) Toà án cấp thành phố thuộc tỉnh (Tòa trung cấp);
(iii) Toà án cấp tỉnh, thành phố thuộc trung ương, khu tự trị... (Tòa cấp cao); (iv) Toà án tối cao (Tòa trung ương).
Không chỉ các nước lớn nhất mà ngay cả các Nhà nước Liên bang cũng có xu hướng tổ chức theo mô hình này có thể thấy điều đó qua hệ thống Toà án của Liên bang Nga. Hệ thống Toà án Liên bang Nga bao gồm:
(i) TAND quận (thành phố cấp quận);
(ii) Toà án của các chủ thể Liên bang (các nước cộng hòa tự trị, các tỉnh, khu tự trị...);
(iii) Toà án tối cao cộng hòa Liên bang Nga.
Ngược lại, cũng có những nước tổ chức Toà án không lệ thuộc vào cấp hành chính mà vào trình tự tư pháp, nhu cầu theo thẩm quyền và khả năng xét xử cũng như hiệu quả của hoạt động Toà án. Nhìn vào hệ thống Toà án Hàn Quốc chúng ta sẽ dễ nhận thấy ở đó cấp sơ thẩm được tổ chức là Toà án cấp địa hạt và Toà án khu vực. Các Toà án này tổ chức theo trình tự tư pháp, không phụ thuộc vào cấp hành chính.
Nghiên cứu hệ thống tổ chức Toà án Đan Mạch giúp ta càng thấy rõ hơn đó là ở Đan Mạch Toà án bao gồm 3 cấp sau đây:
(i) Toà án khu vực: Cấp này bao gồm 82 Toà án tổ chức theo khu vực không theo cấp hành chính.
(ii) Tòa cấp cao: Gồm Tòa cấp cao Miền đông và Tòa cấp cao Miền tây, các Toà án này không tổ chức theo cấp hành chính tỉnh hay quân khu...
(iii) Toà án tối cao.
Tương tự, hệ thống Toà án Australia cũng không tổ chức theo đơn vị hành chính mà được tổ chức theo khu vực. Như Bang Victoria ở Australia có 55 Toà án khu vực, 1 Toà án vị thành niên, 14 Toà án vùng và 1 Toà án tối cao.
Hệ thống Toà án tổ chức theo mô hình này xuất phát từ quan niệm là hạn chế sự can thiệp của cơ quan hành pháp vào hoạt động tư pháp, vì theo mô hình tổ chức này Toà án sẽ không bị lệ thuộc vào các cấp hành chính. Mặt khác nó khắc phục tình trạng nhiều Toà án cấp quận nơi đông dân cư giải quyết không hết việc,
thì ngược lại nhiều huyện Thẩm phán không có việc làm, cũng như sự cách trở về mặt địa lý của một số huyện khiến cho việc đệ đơn khiếu kiện và đi hầu Tòa sẽ gặp nhiều trở ngại và nhất là cho những nhân chứng khi đến Tòa làm chứng...
Ở nước ta hiện nay đang có nhiều tranh luận về những mô hình này tuy Luật tổ chức TAND năm 2002 khẳng định mô hình TAND nước ta vẫn theo cấp hành chính. Song cũng có nhiều ý kiến cho rằng, việc tổ chức trên là bất hợp lý làm cho bộ máy TAND thiếu và yếu đều, nhiều nơi người không đủ làm việc, nhiều nơi việc không có mà làm, vấn đề này sẽ trình bày ở chương 3 của luận văn.