Нынешний Храм Иоанна Богослова был построен в 1885 г. в слободе Ивановке по проекту арх. Федора Данилова на пожертвования прихожан. Филарет Гумилевский в своём труде «Историко-статистическое описание Харьковской епархии» (1857 г.) писал о том, что в Ивановках первый Иоанно-Богословский храм появился ещё около 1680 г.

Сайт храма утверждает, что прихожане в основном были рабочими железнодорожных мастерских и химического завода Пащенко-Тряпкина. Со временем слобода вошла в состав города, нынешний адрес — ул. Большая Панасовская, 105А.

Согласно справочной книге Харьковской епархии (1904 г.) прихожан насчитывалось 3822, мужчин и женщин почти поровну.

Этот же источник говорит о том, что престолов было два: в честь Святого Евангелиста Иоанна Богослова и Рождества Пресвятой Богородицы. Был еще и третий престол, но он был освящен только в том же 1904-м, в честь Святого Феодосия, архиепископа Черниговского и Преподобного Серафима Саровского. При храме действовала церковно-приходская школа.

Храм Иоанна Богослова был закрыт в 1930-м и в 1932 г. передан в распоряжение отдела транспорта и связи при горсовете для последующего сноса.

Но снесены были только кресты и шатер колокольни — церковь использовали как склад. Во время Второй мировой войны верхняя часть колокольни была уничтожена.

До 1992 г. церковь продолжала разрушаться, по заключению НИИ «Укрпроектреставрации», было разрушено 70% церкви. Были утрачены росписи (за исключением отдельных фрагментов), верхняя часть купола и крыши, лестницы южного и северного входов, как и фронтоны над ними. 14 августа 1991 г. церковь была передана властями общине УАПЦ (сейчас ПЦУ). Восстанавливать храм она начала с 1992 г., сейчас работы уже завершены.

В результате российских обстрелов из РСЗО 9 сентября 2022 г. был поврежден фасад храма, также были выбиты окна.