В 1893 году окончил Ярославскую духовную семинарию. Выпускник (1897), затем доцент (1903) и профессор (1909) Петербургской духовной академии по кафедре всеобщей истории и педагогики.
В 1912–1916 годах — профессор кафедры всеобщей истории на Высших женских курсах в Петербурге.
С 1916 года — преподаватель историко-филологического факультета Пермского отделения Петроградского университета (с 1917 года — Пермский университет), где вначале занял должность заведующего кафедрой истории.
С сентября 1921 — последний декан факультета общественных профессий.
С января 1922 по сентябрь 1922 — первый декан педагогического факультета Пермского университета.
За более чем 13 лет работы в Пермском университете подготовил и прочитал не менее десятка различных лекционных курсов, разработал ряд новых спецкурсов и спецсеминаров. Основными для А. П. Дьяконова являлись общие лекционные курсы по истории раннего христианства, истории Византии, античной культуры, истории Средних веков. Многое он сделал и для организации исторического образования в новых условиях.
В 1917—1930 годах — председатель Общества истории, философии и социальных наук при Пермском университете.
А. П. Дьяконову (который в то время уже был зав. кафедрой всеобщей истории Пермского пединститута) принадлежит особая роль в судьбе Пермского университета. После его ликвидации (разделения на пять новых вузов в 1930 году) именно ему ректор С. А. Стойчев поставил в 1931 году задачу обосновать возможность восстановления университета:
"Согласно распоряжению НКП о спешном представлении материалов по организации в Перми университета, поручаю профессору Дьяконову А. П. составить на основании имеющихся материалов подробную докладную записку с обоснованием возможности открытия университета в Перми."
В 1930—1932 годах — заведующий кафедрой всеобщей истории Пермского, позднее — Рязанского педагогического института. После упразднения в 1933 году исторического факультета в Рязани перешёл в Новозыбковский педагогический институт.
С 1934 года — профессор Смоленского педагогического института. В 1938–1941 годах заведовал кафедрой всеобщей истории там же. За годы работы в Смоленске Дьяконов написал ряд научных статей по истории античности, Византийской империи, известиям сирийских авторов о славянах VI–VII веков, к 1937 году подготовил фундаментальную монографию «Восстание рабов в Сицилии во второй половине II в. до н. э.», за которую в 1940 году ему была присвоена степень доктора исторических наук.
Умер во время оккупации Смоленска нацистами и был похоронен на Польском кладбище.
