Иоанн Оленевский родился в 1854 году в селе Оленевка.
В 1920 году Пензенским архиепископом священномучеником Иоанном (Поммером) рукоположен целибатом во диакона.
Служил вне штата во Введенской церкви села Оленевка. Как диакон был лишен избирательных прав.
В 1930 году после ареста настоятеля был закрыт Введенский храм в селе Оленевка, о. Иоанн стал служить диаконом в Троицкой церкви села Соловцовка, а также в храме села Николаевка.
8 апреля 1932 года о. Иоанн был арестован. Проходил по групповому делу «контрреволюционной организации церковников «Истинно православные».
30 января 1934 года отец Иоанн был задержан, помещен в тюрьму, но на следующий день освобожден под подписку о невыезде.
Служил в Троицкой церкви села Соловцовка, а после ее закрытия в 1935 году ездил служить в Успенской церкви села Князевка.
24 октября 1936 года был арестован, помещен в тюрьму с. Кондоль, затем в тюремную больницу.
28 ноября перемещен в тюрьму в Пензе. В марте 1937 г. был освобождён.
2 сентября 1946 года храм был торжественно освящен Пензенским епископом Михаилом (Постниковым).
В тот же день епископ Михаил рукоположил отца Иоанна во иерея.
Был награжден наперсным крестом с украшением.
26 марта 1951 года старец был сильно избит неизвестными, а 6 августа 1951 года он умер.
27 декабря 2000 года отец Иоанн был причислен к лику святых как исповедник Российский ХХ века.
30–31 мая 2001 года состоялось обретение мощей и прославление всенародно почитаемого старца.
В день его памяти, 6 августа православные жители посёлка Шемышейка, сел Каргалейка и Синодское побывали в его родном селе, где посетили сельский храм, его музей и келью, набрали воды на роднике, желающие смогли искупаться на источнике в специальной оборудованной купальне.
