Thanh tra thành phố Hải Phòng hình thành và phát triển cùng với sự phát triển của toàn ngành thanh tra, mang dấu ấn riêng, gắn liền với nhiệm vụ lãnh đạo và yêu cầu quản lý của chính quyền thành phố Hải Phòng qua các thời kỳ.
Trước năm 1963, thành phố Hải Phòng và tỉnh Kiến An là hai đơn bị hành chính độc lập với hai tổ chức thanh tra độc lập, mỗi tổ chức thanh tra do đồng chính thường vụ tỉnh ủy phụ trách và một số cán bộ làm công tác thanh tra. Trong thời kỳ này, hoạt động của tổ chức thanh tra chủ yếu tiến hành kiểm tra: tình hình chấp hành các sắc lệnh về tổng động viên; chính sách về ruộng đất, thuế nông nghiệp; tình hình chuẩn bị các chiến dịch cho kháng chiến…. Qua đó góp phần đập tan nhiều âm mưu phá hoại của kẻ thù, ngăn ngừa và uốn nắn các lệch lạc trong việc thực hiện đường lối, chính sách của Đảng và nhà nước.
Năm 1963, Hải Phòng và Kiến An được hợp nhất thành một đơn vị hành chính, đồng thời hợp nhất tổ chức thanh tra, kiểm tra do ông Dương Thành Mạnh – Thường vụ Thành ủy được cử làm Trưởng ban thanh tra đầu tiên của thành phố tiếp tục thực hiện chức năng kiểm tra, giám sát theo quy định.
Ngày 2/1/1970, UBND thành phố ban hành Quyết định số 02/QĐ/UB v/v thành lập Ban thanh tra thành phố Hải Phòng; Ban thanh tra thành phố là cơ quan chuyên môn đặt dưới sự chỉ đạo trực tiếp và toàn diện của UBND thành phố, chịu sự hướng dẫn về nghiệp vụ của Ủy ban thanh tra Trung ương.
Ngày 09/01/1971, UBND thành phố ban hành quyết định số 15/QĐ-UB về việc đổi tên Ban Thanh tra thành phố thành Ủy ban Thanh tra thành phố. Theo đó, Ủy ban Thanh tra thành phố gồm có: 01 Chủ nhiệm; 02 Phó chủ nhiệm; 02 Ủy viên và các bộ phận giúp việc:
+ Phòng Tổng hợp Tổ chức Hành chính
+ Phòng xét đơn từ khiếu tố
+ Tổ công tác thanh tra các ngành công nghiệp, giao thông vận tải, xây dựng cơ bản
+ Tổ công tác thanh tra các ngành nông nghiệp, thủy lợi, ngư nghiệp, diêm nghiệp
+ Tổ công tác thanh tra các ngành tài chính, thương nghiệp, hành chính, sự nghiệp
Về chức năng, nhiệm vụ được quy định theo Quyết định số 02/QĐ-UB ngày 02/01/1970.
Sau năm 1975, hoạt động của Thanh tra thành phố thời kỳ này tập trung thanh tra việc chấp hành các Chỉ thị, Nghị quyết quan trọng của Đảng và Nhà nước về chống tham ô, móc ngoặc, chống quan lieu, cửa quyền, gây phiền hà cho dân, góp phần quan trọng vào việc nâng cao tinh thần trách nhiệm, ý thức tổ chứ kỷ luật của cán bộ công nhân viên, thúc đẩy cả tiến công tác quản lý.
Năm 1990, Pháp lệnh Thanh tra được ban hành, hoạt động của các tổ chức thanh tra được xác định là một chức năng thiết yểu của cơ quan quản lý nhà nước.
Từ khi Pháp lệnh Thanh tra được ban hành, Thanh tra thành phố đã có những bước trưởng thành về mọi mặt, tích cực góp phần vào thành tích giữ gìn an ninh, trật tự xã hội trên địa bàn thành phố. Để đáp ứng những yêu cầu và nhiệm vụ mới, ngày 21/3/2007, UBND thành phố Hải Phòng đã ban hành Quyết định số 426/2007/QĐ-UBND về quy định tạm thời chức năng, nhiệm vụ, quyền hạn và cơ cấu tổ chức của Thanh tra thành phố. Theo đó, Thanh tra thành phố là cơ quan chuyên môn thuộc UBND thành phố, tham mưu giúp UBND thành phố thực hiện quản lý nhà nước về công tác thanh tra và thực hiện nhiệm vụ, quyền hạn thanh tra hành chính trong phạm vi quản lý của UBND thành phố. Thanh tra thành phố chịu sự chỉ đạo, quản lý về tổ chức, biên chế và công tác của UBND thành phố; đồng thời chịu sự chỉ đạo và hướng dẫn về chuyên môn, nghiệp vụ của Thanh tra Chính phủ. Thanh tra thành phố được tổ chức gồm Chánh Thanh tra và không quá 02 Phó Chánh Thanh tra; các bộ phận giúp việc bao gồm:
+Văn phòng
+Phòng Thanh tra kinh tế 01 (Thanh tra giải quyết khiếu nại, tố cáo về kinh tế-xã hội lĩnh vực công nghiệp, thương nghiệp, giao thông vận tải, bưu chính)
+Phòng Thanh tra kinh tế 02 (Thanh tra giải quyết khiếu nại, tố cáo về kinh tế-xã hội lĩnh vực nông, lâm nghiệp, thủy sản, thủy lợi)
+Phòng Thanh tra Nội chính – Văn xã (Thanh tra giải quyết khiếu nại, tố cáo về kinh tế-xã hội lĩnh vực nội chính, văn hóa, xã hội)
+Phòng Thanh tra quận, huyện(Thanh tra giải quyết khiếu nại, tố cáo, tiếp nhận xử lý đơn và thanh tra kinh tế - xã hội khu vực quận, huyện, thị xã).
Ngày 03/4/2015, UBND thành phố ban hành Quyết định số 692/2015/QĐ-UBND về việc ban hành quy định chức năng, nhiệm vụ, quyền hạn và cơ cấu tổ chức của Thanh tra thành phố Hải Phòng. Theo đó, Thanh tra thành phố thực hiện nhiệm vụ, quyền hạn theo quy định của pháp luật về thanh tra, khiếu nại, tố cáo, phòng, chống tham nhũng.
Cơ cấu tổ chức và biên chế:
+Lãnh đạo Thanh tra thành phố: Chánh Thanh tra và không quá 03 phó Chánh Thanh tra
+Các Phòng chuyên môn, nghiệp vụ:
Văn phòng
Phòng Thanh tra, giải quyết khiếu nại, tố cáo số 1
Phòng Thanh tra, giải quyết khiếu nại, tố cáo số 2
Phòng Thanh tra, giải quyết khiếu nại, tố cáo số 3
Phòng Thanh tra, giải quyết khiếu nại, tố cáo số 4
Phòng Thanh tra, phòng, chống tham nhũng
Phòng Giám sát, kiểm tra và xử lý sau thanh tra
Trên cơ sở đó, ngày 27/5/2015, Thanh tra thành phố ban hành Quyết định số 64/QĐ-TTTP quy định về chức năng, nhiệm vụ, tổ chức bộ máy, mối quan hệ công tác, địa bàn, lĩnh vực quản lý theo dõi của các phòng thuộc Thanh tra thành phố.