Необходимость возведения крытого рынка на Благовещенском базаре вынашивали в харьковской городской управе более 10 лет., с начала ХХ века. Прогресс в этом вопросе был достигнут благодаря работе городской базарной комиссии и его председателя, члена городской управы А. Краснова. В начале 1911 г. на рассмотрение думы были представлены 3 проекта, победило предложение архитектора Илиодора Загоскина. Большой крытый рынок, для возведения которого выделили 11.835 кв.м. на месте рыбных лавок, отличался эклектичными фасадами с нотками историзма (его башенки напоминают замковую архитектуру).

От основного вытянутого объема отходило 4 павильона, весь контур закрывал «пояс» крытых галерей, которые образовывали 6 внутренних дворов.

Строительство было начато в 1912 г. и сопровождалось значительными трудностями. Одной из основных проблем был мягкий грунт и грунтовые воды — дренажные работы и борьба с подтоплением подвалов забирали много сил и времени. При возведении рынка активно использовались железобетонные конструкции и металлические фермы.

Из-за Первой мировой войны и дефицита специалистов возникли задержки с установкой электрических холодильников таллинского завода Franz Krull, пришедших на смену обычным для тех времен ледникам. В прессе также упоминается конфликт между газовым заводом и муниципальными ведомствами, вызвавший «сношение министерств» — газовые трубы первого мешали прокладке канализационных труб для рынка.

Ввод рынка в эксплуатацию неоднократно переносился и состоялся осенью 1915 г. Площадь вокруг здания заасфальтировали.

Крытый рынок предусматривал размещение 260 торговых точек, лавки и магазины предназначались в первую очередь для торговли мясом, рыбой, овощами и молочными продуктами.

Открытие суперсовременного крытого рынка с холодильным оборудованием вызвало небывалый ажиотаж. Торговых точек не хватало на всех желающих, поэтому уже в 1914 г. обсуждался вопрос строительства второго крытого рынка.

Здание крытого рынка сильно пострадало во время Второй мировой войны, и было восстановлено только к 1952 г. по проекту арх. Б. Мирошниченко.

В начале 2010х гг. была проведена масштабная реконструкция здания, в ходе которых были заменены металлоконструкции, укреплен фундамент и своды подвалов (проблема мягкого грунта и подтоплений тянется с момента постройки).

В 2018 г. у входа в здание Центрального рынка была установлена скульптура «Продавщица «семечек».» В качестве прототипа собирательного образа торговки скульптор Сейфаддин Гурбанов выбрал настоящую продавщицу этого рынка, рядом с которой изображены также спящий кот, крыса и два воробья.

В результате российского обстрела 4 ноября 2024 г. повреждения получило остекление более 50 павильонов здания рынка.