Nhiệm vụ, quyền hạn của Tổng Thanh tra Chính phủ là quy định được ghi nhận lần đầu tiên tại Luật thanh tra năm 2004, trước đây Pháp lệnh Thanh tra năm 1990 do Hội đồng Nhà nước ban hành không nhắc tới vấn đề nêu trên.
Thanh tra được hiểu là hoạt động kiểm tra, xem xét tình hình thực tế để từ đó đưa ra những đánh giá, nhận xét nhằm cải thiện, xử lý các sai sót. Trong quá trình thực hiện chức năng quản lý Nhà nước, các cơ quan quản lý Nhà nước nhất thiết phải tiến hành hoạt động thanh tra đối với việc thực hiện các quyết định mà mình đã ban hành. Điều hết sức cần thiết giúp phát hiện ra sai sót, vi phạm của tổ chức cá nhân để xử lý.Chính vì vậy thanh tra được xác định là chức năng thiết yếu của quản lý Nhà nước.
Theo đó, trong quá trình hoạt động thì Tổng thanh tra Chính phủ sẽ có một số quyền hạn và nhiệm vụ cụ thể theo quy định pháp luật.