Родился в селе Сосновка Зарайского уезда Рязанской губернии. Отец - Василий Гаврилович Чельцов (+ 1889), принадлежал к старинному священническому роду. Иван был вторым ребенком в семье (всего в семье родилось 18 детей, из них 10 умерли в младенчестве), старшим из шести братьев, все они окончили Рязанскую духовную семинарию, предварительно отучившись в Рязанском духовном училище.

В 1848 году поступил в Санкт-Петербургскую духовную академию.

29 сентября 1851 года был определен на академическую службу: назначен на должность бакалавра по кафедре общей церковной истории, 1 ноября – помощником эконома.

12 апреля 1856 года был определен экономом академии.

4 октября 1857 года – преподавателем древнего отдела церковной истории.

14 января 1859 года, по прошению, был уволен от должности эконома академии.

6 февраля 1859 года был возведен в звание экстраординарного профессора «за примерное усердие и полезное прохождение наставнической должности». В этом же году был командирован в Кирилло-Белозерский монастырь за рукописями и старопечатными книгами, которые он перевез в академическую библиотеку.

Стал хранителем фонда древних рукописей и старопечатных книг, оставаясь таковым до 1867 года.

10 января 1860 года был возведен в звание ординарного профессора и утвержден Св. Синодом 23 марта 1860 года «во внимание к свыше восьмилетней отлично усердной службы» и «обширной разработке и основательному преподаванию своего предмета».

В 1861 году познакомился со своей первой женой Натальей Дмитриевной (16 марта 1839 - 22 ноября 1872), дочерью парижского протоиерея Вершинского. Дети: Владимир (р. 1862), Дмитрий (р. 1864), Софья (р. 1866), Анастасия (31 августа 1868 - 5 декабря 1872), Екатерина (р. 1872).

15 августа 1869 года действительный статский советник И.В. Чельцов вступил в должность помощника ректора академии по церковно-историческому отделению и с этого же времени состоял членом Правления и Совета академии.

27 сентября 1870 года в актовом зале Академии состоялась публичная защита его диссертации «Древние формы символов веры». Определением Св. Синода от 9 октября 1870 года профессор Чельцов был утвержден в степени доктора богословия.

В 1872 – 1875 годах был редактором журнала «Христианское чтение».

В 1875 году женился второй раз на Александре Григорьевне, дочери протоиерея Смирягина.

24 ноября 1876 года был утвержден Св. Синодом в звании заслуженного ординарного профессора.

Скончался внезапно в возрасте 49 лет, от разрыва сердца. Погребен на Никольском кладбище Александро-Невской Лавры, рядом со своей первой женой Натальей Дмитриевной и дочерью Анастасией.