Theo Nghị quyết số 49/NQ-TW của Bộ Chính trị, TAND tối cao không còn thẩm quyền xét xử phúc thẩm, Toà án cấp tỉnh vẫn còn thẩm quyền xét xử sơ thẩm một số vụ án. Do vậy cần phải thành lập Toà án thượng thẩm để xét xử phúc thẩm các bản án, quyết định sơ thẩm của Toà án cấp tỉnh bị kháng cáo, kháng nghị. Dự kiến trong giai đoạn đầu, 03 Toà phúc thẩm thuộc TAND tối cao hiện nay được chuyển thành 03 Tòa án thượng thẩm đặt tại 03 thành phố lớn là Hà nội, Thành Phố Hồ Chính Minh và Đà Nẵng. Sau đó tuỳ tình hình cụ thể để giữ nguyên, giảm hoặc tăng đầu mối các Toà án thượng thẩm. Toà án thượng thẩm là Toà án cấp dưới của TAND tối cao, nhưng độc lập với các Toà án này trong việc xét xử, giải quyết các vụ án.
Về thẩm quyền, Tòa thượng thẩm xét xử phúc thẩm những bản án, quyết định của Tòa án cấp phúc thẩm bị kháng nghị. Với quy định này cho thấy, thẩm quyền xét xử phúc thẩm của Tòa thượng thẩm sẽ rất ít việc, do Tòa án phúc thẩm chỉ xét xử với số lượng hạn chế các vụ án theo thủ tục sơ thẩm. Trong khi đó, TAND tối cao lại đang chịu áp lực rất lớn về công việc do quá tải các loại đơn đề nghị giám đốc thẩm, tái thẩm. Nếu chỉ TAND tối cao mới có thẩm quyền giám đốc thẩm, tái thẩm trong khi Tòa án phúc thẩm không còn thẩm quyền này thì công việc của TAND tối cao lại càng quá tải hơn. Để khắc phục được tình trạng này, cần giao cho Tòa thượng thẩm nhiệm vụ giám đốc thẩm, tái thẩm đối với bản án, quyết định đã có hiệu lực pháp luật của Tòa án sơ thẩm khu vực và Tòa phúc thẩm. TAND tối cao chỉ giám đốc thẩm, tái thẩm đối với các bản án quyết định đã có hiệu lực pháp luật của Tòa thượng thẩm và một số vụ án quan trọng phức tạp mà ở đó kết quả xét xử giám đốc thẩm, tái thẩm có ảnh hưởng đến việc vân dụng và áp dụng pháp luật trong công tác xét xử hoặc sẽ là xơ sở định hướng cho việc xây dựng các văn bản hướng dẫn áp dụng thống nhất pháp luật trong việc xét xử, giải quyết các loại vụ án thuộc thẩm quyền của Tòa án.
Tòa án thượng thẩm có đặc thù về quản hạt tư pháp trên phạm vi nhiều tỉnh khác nhau, nên việc xác định sự lãnh đạo của cấp ủy Đảng, sự giám sát của
cơ quan dân cử tỉnh nào còn có ý kiến khác nhau. Có ý kiến cho rằng, Tòa án thượng thẩm đặt dưới sự lãnh đạo của cấp ủy Đảng và Hội đồng nhân dân cấp tỉnh nơi đặt trụ sở. Tuy nhiên, theo phương án này thì sự lãnh đạo của cấp ủy Đảng, sự giám sát của cơ quan dân cử không phù hợp với tính chất, vị trí và địa bàn xét xử đặc thù của Tòa án thượng thẩm. Do vậy, Tòa án thượng thẩm đặt dưới sự lãnh đạo trực tiếp của Ban cán sự Đảng TAND tối cao; tổ chức Đảng của các Tòa án thượng thẩm trực thuộc Đảng bộ TAND tối cao; Chánh án Tòa án thượng thẩm báo cáo công tác trước Chánh án TAND tối cao. Chánh án TAND tối cao quản lý các tòa thượng thẩm về mặt tổ chức như đối với các Tòa phúc thẩm hiện nay, nhưng có phân cấp, ủy quyền cho Chánh án Tòa án thượng thẩm thực hiện một số cộng việc (như: biên chế, quản lý cán bộ, kinh phí và hoạt động) của Tòa án cấp này.