Trường Cán bộ TP.HCM thành lập theo quyết định số 5509/QĐ-UB-NC ngày 19.10.1998 của UBND TP.HCM.
Đến giữa tháng 3.2008, ông Nguyễn Văn Đua, thời điểm đó là Phó bí thư Thường trực Thành ủy TP.HCM đã trao Quyết định bổ nhiệm TS kinh tế, Thường vụ Đảng ủy, nguyên Phó hiệu trưởng Thường trực Trường Cán bộ TP.HCM Trương Thị Hiền (vợ ông Lê Thanh Hải, nguyên Ủy viên Bộ Chính trị, nguyên Bí thư Thành ủy TP.HCM) làm Hiệu trưởng trường này.
Đến giữa tháng 10.2014, Trường Cán bộ TP.HCM được nâng cấp thành Học viện Cán bộ TP.HCM theo quyết định số 1878/QĐ-TTg của Thủ tướng.
Đây là cơ sở giáo dục công lập, trực thuộc Thành ủy và UBND TP.HCM; chịu sự quản lý nhà nước của Bộ Giáo dục - đào tạo về chuyên ngành. Vào thời điểm này, PGS-TS Trương Thị Hiền được bổ nhiệm làm Giám đốc học viện. PGS-TS Trương Thị Hiền nghỉ hưu kể từ ngày 1.1.2015.
Trước đó, giữa tháng 1.2010, Trường Cán bộ TP.HCM được khởi công xây dựng trên khu đất hơn 7,1 ha tại số 324 Chu Văn An, P.12 (Q.Bình Thạnh).
Quy mô xây dựng của trường, gồm có khối lớp học và thư viện có 65 phòng học; giảng đường 5.000 chỗ ngồi; hội trường 1.000 chỗ ngồi; ký túc xá 9 tầng, gồm 287 phòng ở phục vụ 950 học viên ở nội trú… với mục tiêu là xây dựng trường thành cơ sở đào tạo tập trung quy mô lớn, khang trang, hiện đại nhằm đáp ứng nhu cầu đào tạo, bồi dưỡng về lý luận chính trị cũng như nâng cao nghiệp vụ quản lý cho đội ngũ cán bộ TP.HCM.
Để xây dựng trường này, có khoảng 700 hộ dân chấp nhận di dời, tái định cư nơi khác để dành đất xây dựng trường.
Giữa tháng 11.2014, tại lễ khánh thành, vào thời điểm này, ông Lê Hoàng Quân, Chủ tịch UBND TP.HCM cho biết TP.HCM đã bố trí ngân sách hơn 1.000 tỉ đồng kinh phí bồi thường và đầu tư cơ sở vật chất cho học viện (chưa kể hơn 800 tỉ đồng đầu tư giai đoạn 3, ký túc xá trong thời gian tới).
Giám đốc Học viện Cán bộ TP.HCM kế nhiệm PGS-TS Trương Thị Hiền là PGS - TS Nguyễn Văn Trình, từng làm Phó giám đốc Học viện, được trao quyết định bổ nhiệm vào ngày 30.12.2014. Đương nhiệm Giám đốc Học viện là PGS - TS Trần Hoàng Ngân...