В 1861—1865 гг. учился на историко-филологическом факультете Московского университета (научный руководитель - Ф. И. Буслаев). По окончании университета преподавал в средних учебных заведениях, в том числе московском художественном училище. В 1870 году был избран приват-доцентом кафедры истории и теории искусств Новороссийского университета (ныне – Одесский национальный университет имени И. И. Мечникова); с 1877 — профессор того же университета. В 1873 году защитил в ИМУ магистерскую диссертацию «Памятник Гарпий из Малой Азии и символика греческого искусства»; в 1876 — докторскую диссертацию «История Византийского искусства и иконографии по миниатюрам греческих рукописей».

С 1888 по 1897 год — профессор кафедры истории искусств Санкт-Петербургского университета, преподавал также на петербургских Высших женских курсах. В 1888-1893 годах — старший хранитель отделения искусства средних веков и эпохи Возрождения Эрмитажа. В 1895 году основал (вместе с Фёдором Успенским) Русский археологический институт в Константинополе. В 1901 году был избран член-корреспондентом Сербской Королевской академии наук.

Был пожалован чинами действительного статского советника (1882), тайного советника (1900).

Лекции профессора Кондакова оказали большое влияние на Дмитрия Айналова, Николая Лихачёва, Михаила Ростовцева, Сергея Жебелёва и многих других историков, археологов и историков искусства.

С 1917 года Кондаков жил в Одессе, с 1918 г. - в Ялте. В 1920 эмигрировал в Константинополь, затем — в Софию (Болгария). В 1920-1922 годах — профессор Софийского университета.

В 1922 году по личному приглашению президента Т. Г. Масарика переехал в Прагу (Чехословакия), где преподавал до конца своей жизни в Карловом университете.

Умер Никодим Павлович Кондаков в Праге 17 февраля 1925 года. Похоронен на Ольшанском кладбище.