Родился в имении Жары Нерехтского уезда Костромской губернии. Происходил из старинного дворянского рода Елагиных; один из 14 детей гвардии поручика Василия Дмитриевича Елагина (1789—1868), участника войны 1812 года.

Учился в 1-м кадетском корпусе. В 1836—1840 годах служил в одном из конных полков. В 1840 году был командирован в канцелярию Министерства народного просвещения, работал в Археографической комиссии, которой со временем передал в дар собранную им коллекцию древних грамот.

В 1848 году был назначен сторонним цензором в Санкт-Петербургский цензурный комитет.

С 1857 года назначен чиновником особых поручений при Главном управлении цензуры; служил до 1860 года, когда был назначен чиновником особых поручений при Министерстве народного просвещения по делам Варшавского учебного округа, но вскоре вышел в отставку.

Елагин был большим почитателем Тихона Задонского, именно ему принадлежала идея основания Тихоновского женского монастыря на берегу Короцкого озера, где этот святой родился; будучи крупным помещиком, он внёс значительную сумму денег на строительство монастыря; принимал непосредственное участие в сборе житийных материалов, а также выступил в роли редактора и издателя книги «Жизнь святителя Христова Тихона I, епископа Воронежского и Елецкого, с присовокуплением избранных мест из его творений» (М., 1861).

Занимался Николай Васильевич и историей Саровской пустыни. Он стал автором первого капитального труда о Серафиме Саровском: «Житие старца Серафима, Саровской пустыни иеромонаха, пустынножителя и затворника. С приложением его наставлений и келейного молитвенного правила» (СПб., 1863).

Состоял в активной переписке со святителем Феофаном Затворником: известно 235 их писем.

Елагин постоянно подчеркивал значение монашества и особенно архиереев — преемников апостольских, поскольку падение роли епископата приводит к протестантизму. Он подвергал критике гражданскую власть, начиная с Петра I, за «мирское направление». Основной задачей он считал устранение всего, что может стеснять, подавлять проявления духовности церкви, лишать её возможности без ограничений исполнять своё предназначение — вести верующих ко спасению.

Николай Васильевич Елагин скончался в 1891 году. Похоронен на кладбище С.-Петербургского Новодевичьего в честь Воскресения Господня женского монастыря, могила утрачена.