Харківська хоральна синагога була побудована у 1912-1913 рр. за проєктом архітектора Якова Гевірца у стилі еклектики, де поєднувались риси модерну з елементами мавританського стилю.

Над реалізацією проєкту також працювали архітектори Михайло Піскунов та Валентин Фельдман (за проєктом останнього у 1907 р. був побудований прибутковий будинок Івана Романенка, біль відомого як Будинок Шапара).

Головними замовниками проєкту виступили брати Леон та Адольф Рубінштейни.

Брати Рубінштейни займалися цукровою торгівлею, володіли 4 банками, 3 цукровими заводами,

Сучасна адреса синагоги – вул. Григорія Сковороди, 12.

Цікавий факт – синагога (або, як вона називалась, “1-ша єврейська молільня”) була розташована в глибині ділянки, щоб витримати законодавчу відстань у 100 сажнів (213 м) від найближчого християнського храму (таким була Миколаївська церква, яка не збереглась).

Синагога була зачинена у 1923 р., в ній розміщувались Єврейський робочий клуб, кінотеатр, «Добровільне спортивне товариство (ДСО) Спартак».

Єврейській громаді будівля була повернена у 1990 р.

У 2003 р. була завершена реставрація за проєктом Володимира Новгородова.

Багато хто знає, що харківська хоральна синагога претендує на звання другої за розмірами у Європі. А перша знаходиться у Будапешті. Площа внутрішніх приміщень Великої синагоги у Будапешті, побудованої 1859 року за проєктом Людвіга Ферстера – 1200 кв. м та вміщує вона 3,000 вірян. Її висота – 43.6 м, вона лише на 1.6 м більше за Харківську. А ось місткість у харківської синагоги втричі менша, до 1000 вірян. За цим показником харківська синагога всього четверта – її також випереджають Велика синагога в німецькому Ессені (1,500 чол.) та синагога у чеському Плзені (2,000 чол.).

Внаслідок російського ракетного удару по ТРЦ “Нікольский” навесні 2022 р. Харківська хоральна синагога постраждала і частково втратила скління.