В миру Иван Литовкин, родился 2 ноября 1837 года в семье сельского головы Ефима Литовкина и его жены Марии. Четырех лет от роду Ваня потерял отца, а в одиннадцать лишился матери. Недетская, тяжелая началась у него жизнь. Пришлось работать и в трактире, и в бакалейной лавке, таскать пятипудовые мешки и прочие тяжести, сопровождать обозы с товаром. Голодал, скитался, бывал бит жестоким хозяином. Но грубая, страшная жизнь не развратила и не озлобила его.
Юноша стремился к духовной жизни, однако до поры о монастыре он и не думал. Но когда наконец появилось хорошее место у таганрогского купца Рафаилова, желавшего даже выдать за него свою дочь, неожиданно пришло письмо сестры Александры, принявшей к тому времени постриг с именем Леониды в Борисовском монастыре. Она советовала идти в Оптину пустынь, к старцам.
Преподобного старца Макария к тому времени уже не было в живых, но уже воссиял в Оптиной пустыни новый светильник — преподобный старец Амвросий. «Батюшка, благословите в Киев», — на эти слова юного Ивана Литовкина последовал неожиданный ответ великого старца: «Зачем тебе в Киев, оставайся здесь». Так 1 марта 1861 года начался иноческий путь длиной в полвека...
По оптинскому обычаю, каждый новоначальный должен был потрудиться в трапезной. На этом нелегком послушании обнаружились и окрепли добрые качества души будущего старца: беспрекословное послушание, трудолюбие, молчаливость и беззлобие. Навидавшись и натерпевшись всего в миру, он понимал, какой бесценный дар Божий — покой и тишина святой обители. И вскоре посетил его Господь великим утешением. Брат Иван был определен в келейники к преподобному Амвросию.
Возможность быть рядом с дорогим батюшкой радовала юного инока. Но бесконечные толпы посетителей тяготили и расстраивали душевный покой. Не смея высказать старцу свою скорбь, он решил потихоньку уйти к святыням Киева, безмолвию Афона. Но прозорливый старец Амвросий остановил его.
Многие скорби и тяготы перенес он в монастыре: и несправедливые упреки, и лишения, и болезни. Десятилетиями у него не было даже своего угла, где бы мог он почитать, помолиться, отдохнуть. Спал он в приемной, чуть не до полуночи полной посетителями, а в час ночи надо было уже идти к утрени...
Но испытания только укрепили и очистили душу, сделали брата Ивана совершенным послушником и монахом. В 1872 году он был пострижен в мантию с именем Иосиф, в 1877 году — рукоположен в иеродиакона, а 1 октября 1884 года за литургией в честь торжественного открытия Шамординской женской обители преподобный Иосиф был рукоположен в иеромонаха. К этому времени он уже был старшим келейником старца Амвросия. Тихий серьезный, выходил он к посетителям, внимательно выслушивал, в точности передавал ответ старца, ничего не добавляя от себя. Но все чаще старец отсылал посетителей спросить совета у келейника, и всех поражало, что его слова буквально совпадали с тем, что говорил сам преподобный Амвросий.
В 1888 году преподобный Иосиф сильно простудился и заболел. Его отвезли в больницу и 14 февраля, по благословению старца Амвросия, постригли в схиму. По молитвам преподобного Амвросия смертельная болезнь отступила. В 1890 году старец Амвросий, уезжая в Шамордино, впервые не взял с собой верного помощника. «Тебе нужно здесь оставаться, ты здесь нужен», — сказал ему старец. 1891 год был последним в жизни старца Амвросия. Теперь преподобный Иосиф остался один. На него легли обязанности скитоначальника, духовника оптинской братии и шамординских сестер. Несмотря на слабое здоровье и непосильные труды, он не позволял себе никаких послаблений: был строгим постником, очень мало спал, носил старую и бедную одежду.
Он стяжал от Господа полноту духовных даров, и многие испытали на себе его дар прозорливости и исцелений. Он ни с кем не вел длинных бесед, умея в нескольких словах выразить самое главное, наставить и утешить. Сила его благодатной молитвы была выше и драгоценнее любых слов. Известен такой случай. Одна женщина, живя в Оптиной, сильно заболела; она попросила отвести ее в «хибарку» к преподобному. Он ее принял и, дав ей в руки свои четки, пошел в спальню, сказав: «Подожди». А когда он вышел, она совершенно забыла про свою болезнь.
Многим помогал преподобный Иосиф. Крестьянка А. была больна, у нее очень опухли околошейные железы. Два раза ей делали операцию, но опухоль еще больше увеличилась, так что нельзя было повернуть шею. Крестьянка обратилась к преподобному за советом: делать операцию или нет? Он ей сказал: «Операцию не надо делать, а отслужи молебен великомученику Пантелеимону, и так поправишься». Она отслужила молебен и полностью исцелилась.
Преподобный Иосиф в течение двенадцати лет был скито-начальником и духовником братии, но к 1905 году начал прихварывать и ослабевать. Он долго болел, терпеливо перенося все посылаемое от Господа.
Преподобный Иосиф тихо отошел ко Господу 9/22 мая 1911 года. 12 мая совершилось погребение. Рука усопшего была мягкой и теплой, как у живого.
