Родился в семье бедного сельского священника Петра Александровича Голубцова и его супруги Анны Елисеевны.
Окончил Галичское духовное училище, Костромскую духовную семинарию (1882, вторым в выпуске), Московскую духовную академию со степенью кандидата богословия (1886; первым магистрантом).
В 1886—1887 гг. — профессорский стипендиат по кафедре церковной археологии и литургики Московской духовной академии. Магистр богословия (1891; тема диссертации: «Прения о вере, вызванные делом королевича Вальдемара и царевны Ирины Михайловны»).
Преподаватель и учёный
С 1887 года — исправлял должность доцента по кафедре церковной археологии и литургики Московской духовной академии. Магистерская диссертация Голубцова, посвящённая полемике о вере между православными и протестантами в XVII веке, заслужила позитивную оценку профессора Василия Ключевского, который написал в своём отзыве, что «магистрант не только впервые в одной работе охватил все стороны этого исторического эпизода, но и тщательно проанализировал все материалы, имевшиеся в различных Российских книгохранилищах». Эта работа была удостоена Святейшим Синодом премии митрополита Макария.
С 1891 года в течение 20 лет был заведующим Церковно-археологическим музеем Московской духовной академии. С 1892 года — доцент академии по кафедре церковной археологии и литургики. Одновременно, в 1893—1896 годах преподавал в академии французский язык. С 1896 года — экстраординарный профессор, с 1907 года — ординарный профессор академии. Курс лекций в академии был посмертно издан его сыном Иваном в 1918 году в двух частях под названием «Из чтений по церковной археологии и литургике». Выпускник академии священник Павел Салагор так отзывался о лекциях профессора Голубцова:
На его лекциях по археологии живой вставала седая старина. Все облекалось в плоть и кровь. В аудитории как-то непроизвольно устанавливалась атмосфера того исторического периода, памятник которого был в данную минуту предметом объяснения профессора. Благодаря тому, что в Академии была своя электрическая станция, Александр Петрович сопровождал свои лекции световыми картинами.
Также с 1898 года Голубцов преподавал в Московском училище живописи, ваяния и зодчества.
С 1907 года — доктор богословия. Докторская диссертация Александра Голубцова «Соборные чиновники и особенности службы по ним» была посвящена письменно зафиксированным особенностям чинопоследований соборных служб, на которых оказали влияние как Студийский и Иерусалимский богослужебные уставы, так и характер служб в храме Софии Константинопольской и другие источники. Подготовил к печати и опубликовал «чиновники» Новгородского Софийского (1899), Холмогорского Преображенского (1903), Нижегородского Преображенского (1905) и Московского Успенского (1908) соборов.
В биографической статье о Голубцове, опубликованной вскоре после его смерти, говорилось:
Строгий в отношении к другим, Голубцов еще строже был к себе. Это сказалось и на его ученых работах. Осторожный в выводах, прекрасный знаток рукописного материала своей науки, он брал для изучения и освещения скромные темы, но доводил работу над ними до исчерпывающих пределов. При этом заключения его часто поражали блеском и глубиной. В самый день смерти он формулировал оригинальный, замечательно тонкий взгляд на происхождение иконостасов в наших храмах. Но эти находки Голубцова часто становились вразрез с идиллическими господствующими объяснениями нашей обрядности и вызывали вверху недружелюбную оценку. Голубцов умер во цвете лет и таланта. Не подлежит сомнению, что неурядицы в московской академии сократили жизнь этого редкого ученого и человека.
Общественная позиция
Придерживаясь умеренно-консервативных политических взглядов, выступал в защиту академических свобод, в связи с чем вошёл в конфликт с руководством академии в лице ректора епископа Феодора (Поздеевского). Активно поддерживал предложение избрать либерального профессора Илью Громогласова на кафедру церковного права, которое было «провалено» крайними консерваторами. Выступал против вытеснения из академии профессора В. О. Ключевского, за что вместе с другими преподавателями получил порицание от Святейшего Синода.
Скончался скоропостижно от инфаркта миокарда.
