Kể từ khi hình thành cơ quan Thuế của nước Việt Nam Dân chủ cộng hoà sau Cách mạng tháng 8 năm 1945 và nhiều lần sửa đổi tên gọi thành Cục thu quốc doanh, Cục thuế công thương nghiệp, Vụ thuế nơng nghiệp trực thuộc Bộ Tài chính thì cơ quan thuế đã có chức năng và bộ máy thực hiện công tác thanh tra, kiểm tra thuế. Từ khi thống nhất 3 cơ quan trên để thành lập hệ thống thu thuế Nhà nước theo Nghị định số 281-HĐBT ngày 07/8/1990 của Hội đồng Bộ trưởng, ngành Thuế đã có chức năng thanh tra và tổ chức thanh tra thuế để thanh tra, kiểm tra việc chấp hành chính sách pháp luật về thuế của tổ chức, cá nhân nộp thuế và thanh tra nội bộ ngành Thuế.
Theo đó, cơ cấu tổ chức bộ máy của Tổng cục Thuế, Cục Thuế có Phịng Thanh tra và xử lý tố tụng về thuế.
Trong các giai đoạn sửa đổi, kiện toàn tổ chức bộ máy ngành Thuế theo Chiến lược cải cách và Hiện đại hoá hệ thống thuế, hệ thống thanh tra thuế được thành lập căn cứ vào quy định của pháp luật: Quyết định số 218/2003/QĐ-TTg ngày 28/10/2003, Quyết định số 76/2007/QĐ-TTg ngày 28/5/2007 của Thủ tướng Chính phủ, hệ thống thanh tra thuế tiếp tục được củng cố và kiện toàn chuyển thành Ban Thanh tra thuộc Tổng cục Thuế, Phòng Thanh tra thuộc Cục Thuế.
Từ khi có Luật Quản lý thuế số 78/2006/QH11 ngày 29/11/2006, căn cứ vào Mục 3 chương X của Luật Quản lý thuế; Quyết định số 76/2007/QĐ- TTg ngày 28/7/2007 của Thủ tướng Chính phủ quy định chức năng, nhiệm vụ,
quyền hạn và cơ cấu tổ chức của Tổng cục Thuế trực thuộc Bộ Tài chính và Quyết định số 115/2009/QĐ-TTg ngày 28/9/2009 của Thủ tướng Chính phủ quy định chức năng, nhiệm vụ, quyền hạn và cơ cấu tổ chức của Tổng cục Thuế trực thuộc Bộ Tài chính; Quyết định số 48/2007/QĐ-BTC ngày 15/6/2007 và Quyết định số 49/2007/QĐ-BTC ngày 15/6/2007 của Bộ Tài chính và Quyết định số 109/QĐ-BTC ngày 14/01/2010 của Bộ Tài chính qui định chức năng, nhiệm vụ, quyền hạn, cơ cấu tổ chức của Thanh tra Tổng cục Thuế. Căn cứ các quy định này, Thanh tra Tổng cục Thuế là tổ chức trực thuộc Tổng cục Thuế và ngành thuế đã có cơ sở xác lập được căn cứ pháp lý về công chức ngạch thanh tra để thực hiện chức năng thanh tra, kiểm tra thuế.