До 1917 р. у Харкові було 5 синагог: Хоральна, Чеботарська, Подільська, Міщанська, Мордвинівська. Будівлю Чеботарської синагоги було побудовано у 1912 р. за проєктом архітектора Бориса Гершковича, Синагогою володіло 2-е відділення 3-ї єврейської молитовні «Сефардим». Сефарди – субетнічна група євреїв, яких вигнали з Іспанії та Португалії у 1492 р.

Після Другої світової війни на Чоботарській, 17 знаходився відділ ДАІ. Будівлю колишньої Чеботарської синагоги повернули єврейській громаді у 2002 р. (Об’єднанню хасидів ХаБаД Любавич юдейських релігійних громад та організацій Харківського регіону). Тепер тут розташована Єшива Гдола – вищий єврейський релігійний навчальний заклад для молодих людей та Єшива Ктана – школа для хлопчиків, де поєднується єврейська освіта із загальноосвітньою шкільною програмою.

15 березня 2022 р. синагога була пошкоджена касетною бомбою від російського РСЗВ.