Поначалу для о.Иоанна это была чужая, незнакомая земля, в этом неправославном краю он особенно ощутил всю важность своего служения перед теми, кто веровал во Христа, перед теми православными людьми, кто нуждался в его пастырском слове. За время своего служения о.Иоанн, неся слово Божие, объехал всю азербайджанскую землю с севера до самого юга. В первое время он служил настоятелем церкви в честь Боголюбской иконы Божией Матери с.Александровка, а затем настоятеля собора Рождества Богородицы г.Баку. На эту должность он был назначен в 1911г. указом Бакинского епископа Пимена (Пегова)

В 1920-е годы, когда начались страшные гонения на Церковь и ее служителей, о.Иоанн Ганчев, по благословению правящего архиерея епископа Павла (Вильковского) покидает Баку и перебирается с семьей к родному брату, работавшему нотариусом в Ленкорани. После смерти священника храма в честь иконы Божией Матери Всех Скорбящих Радосте близ Ленкорани о.Алексия Пономарева отец Иоанн был назначен настоятелем этого храма