Родился в семье псаломщика села Комиссаровка, Верхне-Днепровского уезда, Екатеринославской губернии.

Окончил Екатеринославское духовное училище и Екатеринославскую духовную семинарию. Окончил Московскую духовную академию (1911) со званием магистранта.

По окончании семинарии был учителем второклассной церковной школы.
В 1903 году поступил послушником в Нилову пустынь Тверской епархии и в 1904 году был пострижен в монашество.
27 мая 1905 г. рукоположен в сан иеродиакона, а в октябре того же года - во иеромонаха.
С 1911 по 1912 гг. – помощник инспектора Московской духовной академии.
С 1912-1913 гг. - инспектор Полтавской духовной семинарии.
С 1913-1916 гг. - инспектор Черниговской духовной семинарии.
В 1915 году возведен в сан игумена.
С 10 октября 1916 г. по 12 июня 1917 г. - архимандрит-настоятель Княже-Владимирского монастыря в Иркутске и заведующий Иркутской учительской миссионерской школы.
12 июня 1917 г. - первый выборный ректор Черниговской духовной семинарии.
26 октября 1919 г. хиротонисан во епископа Стародубского, викария Черниговской епархии. Хиротонию совершали в г. Чернигове: архиепископ Пахомий Черниговский и Нежинский и епископ Иоанн, викарий Новгород-Северский.
С 1920 года - епископ Сосницкий, викарий той же епархии.
С конца 1922 года несколько месяцев примыкал к обновленцам. Затем узнав о ложности действий последних, удалился от них и тайно скрывался в монастыре "Божье дело", приписанном к Ниловой пустыни.
С 6 августа 1923 г. - епископ Каширский, викарий Тульской епархии.
С 19 октября 1923 г. управлял Тульской епархией и Одоевской. Положение в епархии в это время было очень тяжелое. Обновленцы захватили огромное большинство приходов. Но и со своей маленькой паствой епископ Николай упорно боролся против врагов православия. Когда обновленцы начали подготовку к собору 1925 года, епископ Николай разделял общее почти у всех православных архиереев мнение, что этот собор, на котором обновленцы заранее завладели для себя всеми преимуществами, может принести православию только вред. Поэтому он сделал предписание настоятелям и церковным советам не входить в переговоры с обновленцами. Тульское Епархиальное Управление принимало все меры для привлечения православных к участию в съезде и соборе, но епископ Николай и его паства твердо держались намеченной тактики.
8 мая 1925 г. арестован. В заключении до 1927 г.
С 16 сентября 1927 г. - епископ Орловский.
С апреля 1931 г. епархией не управлял.
27 июля 1932 арестован.
В 1941 году возведен в сан архиепископа.
27 июня 1941 г. арестован в Москве, сидит в Саратовской тюрьме. Осужден по ст. 58-10 к 5 годам ссылки, которую отбывал в гг. Актюбинске, Челкаре.
С 1942 г. был настоятелем Вознесенской общины г. Челкара, Казахской ССР.
19 мая 1945 - освобожден из ссылки.
С 5 июня 1945 г. назначен архиепископом Алма-Атинским с титулом "Алма-Атинский и Казахстанский".
В октябре 1945 - прибыл в Алма-Ату и начал служение.
В 1947 году ко дню Св. Пасхи награжден крестом на клобук.
С 1951 года одновременно управлял и Семипалатинской епархией.
В феврале 1955 г. возведен в сан митрополита по случаю 35-летия пребывания его во епископстве.

Скончался и похоронен в Алма-Ате.

Автор трудов:
"Учение аскетов о страстях".
"Воздержание - победная песнь чистоты". "Голос Церкви" 1914-1915 гг.

Причислен к сонму новомучеников и исповедников веры православной Архиерейским Собором 2000 года.