Раннее упоминание о Златоустовском деревянном храме относится к 1622 г., когда для него был отлит колокол — вклад Третьяка Неждановского с братьями; надпись на нем сообщала: «В дом Пречистой иконы Владимирской, честного ее Сретения и великого святителя Ивана Златоустого и иже во святых отца нашего Николая Чудотворца положи се колокол Третя Окстафев сын Неждановский с братьями по своих родителях ввеки, лета 7130 августа 7. Вес 8 пуд». Каменная холодная церковь Иоанна Златоуста была сооружена в 1654 г. на средства Ивана Фадеева и Федора Федорова Неждановских. Храмоздатели устроили для своих семей усыпальницу под церковью, место их погребения было обозначено на галерее — «надгробия над их могилами украшены скульптурной работой и надписями». Храм включал в себя два шатровых придела. Южный именован в честь княгини Ольги; северный, как значится в описаниях города конца XVIII в. и ведомости церкви 1818 г., предполагалось устроить во имя Димитрия Прилуцкого, но освятили его в честь праздника Зачатия Иоанна Предтечи, и произошло это уже в середине XIX в.