Первое здание для бедных учеников Харьковского коллегиума на Бурсацком спуске было построено в 1770-1773 г. Это здание не сохранилось, нынешнее здание духовного училища (бурсы) по адресу Бурсацкий спуск, 4 было построено в 1825 г.
Многие из молодых бурсаков летом подрабатывали учителями дворянских детей, т.к. уровень общих дисциплин был в духовных училищах довольно высоким по тем меркам.
Среди харьковских гидов ходит легенда, что покровителем бурсы в народе считали Св. Ираклия, а голодные бурсаки часто совершали «набеги» на рынок, воруя пирожки. Поэтому продавщицы их прозвали раклом, и это слово харьковского происхождения, которым стали называть мелких воров и босяков, якобы укоренилось в украинском лексиконе в XIX веке именно благодаря Харькову.
Впрочем, существует более прозаичная версия — ракло это перевод с устаревшего немецкого Rekel «неотесанный человек» (Этимологический словарь украинского языка. — Киев.: Наук. думка, 2006)
В 1886 г. здание было реконструировано и надстроено (проект арх. Б. Покровского), а в 1925 г. передано Институту культуры.
Сейчас в здании бурсы находится Харьковская государственная академия культуры.