Харківський художній музей розташований у двох сусідніх будинках на вул. Жон Мироносиць.

Вулиця була одним із рекордсменів за кількістю перейменувань ще за царських часів: Цвинтарний провулок, вул. Садово-Куликівська, пров. Старокладбищенський, вул. Садова, пров. Касперівський, Сердюківська вулиця, Мироносицький провулок.

Називалася вона також пров. Свідомості, пров. Рівності та Братства, Раднаркомівська вулиця (з 1930-х до 2015).

Основна будівля музею по вул. Жон Мироносиць, 11 була збудована у 1912-1914 рр. за проєктом арх. О. Бекетова для пивного магната Івана Ігнатіщева, який володів пивзаводом “Росія” по вул. Великій Панасівській, 76.

У декорі будівлі збереглися барельєфи з немовлятами-путті, які вирощують хміль та збирають урожай.

У роки Перших визвольних змагань у ​​будівлі перебували різні органи влади, якийсь час – представництво Центральної ради.

У 1922-1928 рр. у будівлі розташовувався Раднарком (уряд) УРСР. У 1923 р. його відвідував Фрітьоф Нансен, який збирав західну гуманітарну допомогу у роки повоєнного голоду.

Після переїзду Раднаркому наприкінці 1920-х цей будинок передали проєктному інституту “Укр-Діпромез”. Деякі кімнати займала Харківська консерваторія, у класах навчали обдарованих дітей.

З 1932 р. у будівлі розмістилася Картинна галерея ім. Т. Шевченка.

Під час німецької окупації галерею було перейменовано на Будинок ім. Т. Шевченка, він перебував під керівництвом Художнього інституту. 6 вересня 1942 р. тут відбулася виставка 220 репродукцій картин Шевченка.

25.03.1944 року на основі колекції Української державної картинної галереї (УДКГ), яка повернулася з евакуації, було створено Державний музей українського мистецтва.

УДКГ раніше розташовувалась за сучасною адресою вул. Ярослава Мудрого, 18. Її будівля, збудована у 1935 р., була спалена німцями 16 серпня 1943 року. Це було зроблено спеціально, щоб приховати масштаби розкрадань картин перед відступом, більшість експонатів було вивезено ними протягом 1943 року.

Музею віддали Будинок картинної галереї ім. Т. Шевченка. Він був також пошкоджений – був зруйнований дах, вибиті вікна та пробиті стіни, але будівлю відновили в короткі терміни.

Музей було відкрито 23.06.1946 р. на другому поверсі будівлі. Перший поверх до початку 1950-х займав Художній інститут та училище, майстерня художнього фонду, обласне правління Спілки художників тощо.

Основу колекції музею становила невелика частина фондів, які встигли вивезти в евакуацію в 1941 р. Більшість колекції було втрачено – вивезено німцями в 1943 р., залишки згоріли в будівлі на вул. Ярослава Мудрого, 18. Збереглося 4700 експонатів із 75000 із довоєнної колекції.

Проте колекція продовжувала поповнюватись після Другої світової війни. Музей стикався з дефіцитом приміщень для експозицій, тому час від часу робив тематичні виставки на основі колекцій своїх фондів, наприклад виставки гравюр Дюрера або робот Пікассо.

Сама ж колекція музею бере свій початок із 1805 р., від колекції Харківського університету та дарів його випускників, якими вона поповнювалась у XIX столітті (при Університеті був Музей красних мистецтв та старожитностей).

У 1886 р. у Харкові було також організовано Міський художньо-промисловий музей. Внаслідок об’єднання музеїв у 1920 р. виник Центральний художньо-історичний музей державного значення. У 1930-х фонди поповнилися частиною колекції П. Харитоненка з садиби “Наталівка”.

Спочатку садиба Ігнатищева мала форму у плані у вигляді літери “П”, але після передачі музею її “закільцювали” додатковою галереєю для зручності відвідування експозиції. На жаль, інтер’єри здебільшого було втрачено, зокрема, розписи художника Васильківського, який виконав в інтер’єрах зменшені копії своїх розписів із дому Полтавського земства.

Друга будівля музею знаходиться по сусідству з головним корпусом та використовується як виставкова зала для тимчасових виставок.

Цю будівлю за адресою вул. Чернишевська 18/9 було збудовано також за проєктом арх. О. Бекетова в 1896 р. для недільної жіночої школи, організованої Христиною та Олексієм Алчевським, яка діяла до 1919 р.

Особливістю жіночої школи було викладання української літератури та народної пісенної творчості.

Внаслідок російських ракетних ударів 7 березня 2022 р. обидві будівлі постраждали.

Було пошкоджено фасад, вибито вікна та вітражі.

14 червня 2026 р. по будівлі був завданий черговий удар російським дроном.

Був зруйнований дах, перекриття, постраждав другий поверх.

Почалася пожежа, яку не могли ліквідувати через загрозу повторного російського удару по рятувальниках ДСНС. Постраждала частина фондів, яка не була евакуйована у 2022 р. та зберігались в будівлі. Рятувальники, волонтери та перехожі виносили з музею картини прямо під час пожежі.