Điều 16 luât tổ chức Tòa án nhân dân năm 1960 quy định thẩm quyền của Tòa án nhân dân cấp huyện như sau: “Tòa án nhân dân cấp huyện, thành phố thuộc tỉnh, thị xã hoặc đơn vị hành chính tương đương xử sơ thẩm những vụ án hình sự và dân sự do pháp luật quy định thuộc thẩm quyền của Tịa án đó. Tịa án nhân dân huyện, thành phố thuộc tỉnh, thị xã hoặc đơn vị hành chính tương đương có nhiệm vụ..., phân xử những việc hình sự nhỏ khơng phải mở phiên tịa và hướng dẫn hòa giải ở xã và khu phố”. Ngày 23-3-1961, ủy ban thường vụ Quốc hội ban hành Pháp lệnh về tổ chức Tòa án nhân dân tối cao và Tòa án nhân dân địa phương, quy định cụ thể thẩm quyền xét xử sơ thẩm hình sự của Tịa án nhân dân cấp huyện như sau:
Tòa án thị xã, thành phố, huyện hoặc đơn vị hành chính tương đương có thẩm quyền: phân xử những viêc hình sự nhỏ khơng phải mở phiên tòa; sơ thẩm những vụ án hình sự có thể phạt từ 2 năm tù trở xuống.
Khi bị cáo phạm nhiều tội khác nhau, nếu tổng hợp hình phạt trên 2 năm tù cũng không thuộc thẩm quyền xét xử của Tòa án nhân dân cấp huyện mà phải chuyển cho Tòa án nhân dân cấp tỉnh xét xử.
Sau đại thắng mùa xuân năm 1975, Tòa án ở các tỉnh phía Nam (từ Quảng Trị trở vào) được thành lập. Ngày 15-3-1976, Hội đồng Chính phủ cách mạng lâm thời Cộng hoà miền Nam Việt Nam ban hành sắc lệnh số 01- SL-76 quy định tổ chức Tòa án nhân dân và Viện kiểm sát nhân dân, thì Tịa án nhân dân cấp huyện có thẩm quyền xét xử những vụ án hình sự từ 2 năm tù trở xuống. Nhưng căn cứ vào thực tế nhận thấy trình độ chun mơn của đội ngũ Thẩm phán Tòa án cấp huyện tại thời điểm này chưa đáp ứng được yêu cầu nhiệm vụ nên ngày 28-3-1976, Bộ Tư pháp Chính phủ cách mạng Lâm thời Cộng hồ miền Nam Việt Nam ra Thơng tư
01-BTP-TT về tổ chức Tòa án nhân dân quy định chỉ nên giao cho Tòa án nhân dân cấp huyện xét xử những vụ án hình sự ít quan trọng, khơng được xét xử những tội phản cách mạng; những tội phạm gây tốn thương đến sức khoẻ của nhiều người hoặc gây chết người, hoặc xâm phạm nghiêm trọng đến tài sản công cộng, tài sản riêng công dân; những vụ án mà việc xác định tội phạm có nhiều khó khăn và những vụ án có ảnh hưởng chính trị lớn.
Với sự thay đổi lớn lao của đất nước, Hiến pháp năm 1980 được ban hành mở ra một thời kỳ mới của công cuộc xây dựng Tổ quốc Việt Nam thống nhất, hệ thống Tòa án cũng được cũng cố và phát triển. Luật tổ chức Tòa án nhân dân ngày 03-7-1981 được ban hành thay cho Luật tổ chức Tòa án nhân dân năm 1960.
Luật tổ chức Tòa án nhân dân năm 1981, xác định thẩm quyền của Tòa án nhân dân cấp huyện theo loại việc chứ khơng xác định theo mức hình phạt mà Tịa án có thể áp dụng như trước đó nữa. Điều 36 quy định: Các Tòa án quận, huyện, thành phố thuộc tỉnh có thẩm quyền xét xử sơ thẩm những vụ án hình sự trừ những loại việc sau đây:
- Những tội xâm phạm an ninh quốc gia;
- Những tội phạm hình sự khác có tính chất nghiêm trọng, phức tạp hoặc gây hậu quả lớn.
Theo quy định trên thì Tịa án nhân dân cấp huyện có quyền xét xử những vụ án mà luật quy định hình phạt từ 5 năm tù trở xuống.
Khi Bộ luât hình sự năm 1985 được thi hành đã nảy sinh một số vướng mắc về thẩm quyền xét xử của Tòa án nhân dân cấp huyện:
Thứ nhất, trước khi ban hành Bộ luât hình sự năm 1985 các tội xâm phạm an ninh quốc gia được quan niệm là những tội phản cách mạng nên khơng giao cho Tịa án cấp huyện xét xử, nhưng theo Bộ luât hình sự năm 1985 thì những tội xâm phạm an ninh quổc gia bao gồm hai loại tội; những tội đặc biệt nguy hiểm xâm phạm an ninh quốc gia và những tội khác xâm phạm an ninh quốc gia. Do vây, Tịa án nhân dân cấp huyện có khả năng xét xử một số tội khác xâm phạm an ninh quốc gia, nhưng Luật tổ chức Tòa án nhân dân năm 1981 lại loại trừ điều đó;
Thứ hai, theo tinh thần của điều 36 Luật tổ chức Tòa án nhân dân năm 1981, thì Tịa án nhân dân cấp huyện khơng được xét xử những tội có tính chất nghiêm trọng, tức là tội mà luật quy định hình phạt trên 5 năm tù. Do đó, Tịa án cấp huyện không được xét xử những tội như tội cướp tài sản, tham ơ, nhận hối lộ... vì có khung hình phạt đến 7 năm tù.
Để giải quyết vướng mắc trên, ngày 26-7-1986, Tòa án nhân dân tối cao, Viên kiểm sát nhân dân tối cao, Bộ Tư pháp và Bộ Nội vụ ra Thông tư liên ngành số 01/TTLN hướng dẫn các Tòa án cấp huyện được xét xử một số tội phạm mà luật quy định hình phạt từ 7 năm tù trở xuống nhưng có những tình tiết giảm nhẹ cho phép xử phạt 5 năm tù trở xuống. Hướng dẫn này cũng có điểm bất họp lý vì Tịa án chưa xét xử mà đã biết mức án là 5 năm tù trở xuống, như vậy là Tịa án đã ấn định mức hình phạt trước khi đưa vụ án ra xét xử.
Bộ luật tố tụng hình sự năm 1988, qua ba lần sửa đổi đã khắc phục những điểm bất hợp lý trong Thông tư liên ngành số 01/TTLN ngày 26-71986. Theo quy định tại khoản 1 Điều 145 Bộ luật tổ tụng hình sự năm 1988 thì: Tịa án nhân dân cấp huyện và Tòa án quân sự khu vực xét xử sơ thẩm những tội phạm mà Bộ luật hình sự quy định hình phạt từ 07 năm tù trở xuống, trừ những tội sau đây:
Các tội xâm phạm an ninh quốc gia;
Các tội quy định tại các điều 95, 96, khoản 1 Điều 172 và các điều 222, 223, 263, 293, 294, 295, 296 Bộ luật hình sự.
Quá trình thực hiên thẩm quyền sơ thẩm hình sự của Tịa án các cấp theo Bộ luật tố tụng hình sự năm 1988 cho thấy, việc tăng thẩm quyền xét xử sơ thẩm hình sự của Tịa án cấp huyện đã mang lại những kết quả nhất định. Nhưng thực tiễn xét xử cho thấy trong những năm từ 2003 trở về trước số vụ án mà Tòa án nhân dân cấp tỉnh phải xét xử sơ thẩm vẫn cịn nhiều. Do đó Tịa án nhân dân Tối cao vẫn phải xét xử phúc thấm một khối 1ượng khá lớn các vụ án mà Tòa án cấp tỉnh đã xử sơ thẩm .Điều đó đã dẫn đến tình trạng án phúc thẩm bị tồn đọng khá nhiều ở Tòa phúc thẩm Tòa án nhân dân tối cao, làm ảnh hướng đến công tác tổng kết thực tiễn, hướng dẫn viêc xét xử của Tịa án nhân dân tối cao và cơng tác giám đốc thẩm, tái thẩm các bản án, quyết định đã có hiệu lực pháp luật theo qui định của pháp luật.
Trước thực trạng này, việc tăng thẩm quyền cho Tòa án cấp huyện đã được đề cập nhiều tại các diễn đàn, hội nghị khác nhau và trong nhiều Nghị quyết của Đảng. Nghị quyết Hội nghị lần thứ 8 Ban chấp hành Trung ương Đảng khoá VII nêu rõ: “Tăng thẩm quyền xét xử cho Tòa án nhân dân cấp huyện theo hướng việc xét xử sơ thẩm được thực hiện chủ yếu ở Tịa án cấp này”. Tiếp sau đó, Nghị quyết Đại hội Đảng toàn quốc lần thứ VIII cũng chỉ rõ: “Phân định lại thẩm quyền xét xử của Tòa án nhân dân, từng bước mở rộng thẩm quyền xét xử sơ thẩm cho Tòa án nhân dân cấp huyện”. Thể chế hóa đường lối, chủ trương, quan điểm của Đảng trong xây dựng pháp luật. Bộ luật tố tụng hình sự năm 2003 được Quốc hội khố XI kỳ họp thứ tư thơng qua ngày 26-11-2003, một lần nữa lại mở rộng thẩm quyền xét xử sơ thẩm về hình sự của Tịa án nhân dân cấp huyện và Tòa án quân sự khu vực.