Так же как и здания горсовета и облсовета, Харьковский центральный универмаг прячет внутри себя следы построек разных стилей и эпох. ЦУМ — памятник архитектуры, который является результатом нескольких реконструкций и поглощений других зданий, он намного старее, чем выглядит.
Самое старое здание, элементы которого уцелели внутри ЦУМа — это магазин компании «Зингер». Он был построен в начале ХХ века, фасад магазина был очень «воздушным» — огромные окна удерживали металлические конструкции.
В 1930 г. архитектором Александром Линецким был разработан проект универмага «Хаторг» в стиле конструктивизм.
Его строительство было завершено в 1933 г. слева от бывшего магазина «Зингер».
В 1934 г. универмаг «Хаторг» стал Харьковским центральным образцовым универмагом.
В 1938 г. ЦУМ был расширен по проекту П. Фролова, в его объем были частично включены постройки, которые ранее находились справа от универмага.
В ходе Второй мировой универмаг серьёзно пострадал.
Его реконструкция в стиле сталинского ампира была закончена к 1952 г. и выполнялась по проекту М. Мовшовича, Б. Клейна и В. Харламова. Универмаг частично утратил конструктивистский образ, впрочем, если сравнить две фотографии, можно увидеть, что вид торцевого фасада практически не изменился, а расположение окон и проёмов на главном фасаде осталось на тех же местах.
Для того чтобы прорезать дополнительное окно на торце и сохранить читабельность вертикальной надписи «Универмаг» пришлось модифицировать букву «У» (она получила дополнительную «загогулину»)
Несмотря на ровный фасад, внутри ЦУМ остался неоднороден — переходы между старыми зданиями остались ощутимы по перепаду высот. Также в ЦУМе можно увидеть чугунные колонны, которые остались от старого магазина швейных машинок «Зингер»
В связи с развитием интернет-торговли и появлением крупных торгово-развлекательных центров в Харькове ЦУМ стал терять своих клиентов, все больше помещений из торговых становились офисными. В 2021 г. на первом этаже открылся ресторан «Молодость», дизайнеры которого сохранили оригинальные советские мозаики ЦУМа, а также поместили в центр ресторана автобус ПАЗ-672, внутри которого были размешены столики. Туалеты были оформлены в стиле лифтовых кабин.
В результате российского ракетного обстрела по Павловской площади 28 августа 2022 г. здание ЦУМа пострадало и утратило остекление.
