Харківський центральний універмаг, як і будівлі міськради та облради, ховає в собі сліди будівель різних стилів та епох. ЦУМ є результатом кількох реконструкцій та поглинань інших будівель – він набагато старіший, ніж виглядає.
Найстаріша будівля, елементи якої вціліли всередині ЦУМу – це магазин компанії “Зінгер”. Він був збудований на початку ХХ століття, фасад магазину був дуже “повітряним” – величезні вікна утримували металеві конструкції.
У 1930 р. архітектором Олександром Лінецьким було розроблено проєкт універмагу “Хаторг” у стилі конструктивізм.
Його будівництво було завершено 1933 р. ліворуч від колишнього магазину “Зінгер”.
1934 р. універмаг “Хаторг” став Харківським центральним зразковим універмагом.
У 1938 р. ЦУМ було розширено за проектом П. Фролова, до його обсягу були частково включені будівлі, які раніше знаходилися праворуч від універмагу.
У ході Другої світової універмаг серйозно постраждав.
Його реконструкція виконувалася за проєктом М. Мовшовича, Б. Клейна та В. Харламова у стилі сталінського ампіру – універмаг частково втратив конструктивістський вигляд. Втім, якщо порівняти дві фотографії, можна побачити, що вигляд торцевого фасаду практично не змінився, а розташування вікон на головному фасаді залишилося на тих самих місцях.
Незважаючи на рівний фасад, усередині ЦУМ залишився неоднорідним – переходи між старими будинками залишилися відчутними по перепаду висот. Також у ЦУМі можна побачити чавунні колони, які залишилися від старої крамниці швейних машинок “Зінгер”
У зв’язку з розвитком інтернет-торгівлі та появою великих торговельно-розважальних центрів у Харкові ЦУМ почав втрачати своїх клієнтів, дедалі більше приміщень із торгових ставали офісними. У 2021 р. на першому поверсі відкрився ресторан “Молодість”, дизайнери якого зберегли оригінальні радянські мозаїки ЦУМу, а також помістили до центру ресторану автобус ПАЗ-672, всередині якого було розміщено столики. Туалети були оформлені у стилі ліфтових кабін.
Внаслідок російського ракетного обстрілу на Павлівській площі 28 серпня 2022 р. будівля ЦУМу постраждала і втратила скління.
